A inteligência e seus riscos: o que é artificial?

 

Por Daniel Chaves

 

Em 15 de setembro, no palco do Dreamforce, em São Francisco, Dario Amodei, da Anthropic – a empresa responsável pelo Claude, o queridinho das IAs no momento – defendeu que a indústria coordene o ritmo de avanço da inteligência artificial: primeiro mais transparência e mais investimento em segurança, depois padrões compartilhados e, ao fim, algum mecanismo internacional. Ao seu lado, Jensen Huang, da Nvidia, respondeu que a escolha entre velocidade e segurança é falsa. Três dias antes, Amodei já havia pedido publicamente que as empresas reduzissem o passo, e foi endossado por Sam Altman e por Elon Musk; em 13, Donald Trump chamou os defensores da desaceleração de “forças negativas” e reafirmou que sua preocupação é ganhar a corrida contra a China. No mesmo intervalo, Jacob Coxon, pesquisador que deixou a Anthropic, disse à BBC que há profissionais do setor genuinamente assustados e projetou riscos concretos em janelas de seis a doze meses. É muito alarme para pouca semana. O que acontece, de verdade?

 

O que chamamos de IA generativa é como uma máquina-de-completar. O sistema liga pontos — no caso, dados — e faz surgir uma figura, exatamente como nas brincadeiras de ligar números das revistas infantis. O que aparece na folha é a figura possível a partir daqueles pontos, e apenas daqueles. Os pontos, por sua vez, são delimitados pelas expectativas inscritas no comando que deu início ao processo. O fato de que isso acontece semiautomaticamente faz com que a IA generativa seja tão fantástica quanto assustadora. Fantástica porque funciona como áreas da nossa própria imaginação de que não havíamos dado conta. Assustadora porque, no passado, olhávamos o mundo pela lente polida por experiências cognitivas anteriores, e agora a lente está leitosa: com pouco conhecimento prévio é possível pedir à máquina que nos devolva uma sensação de insight. Parece insight. Não necessariamente é.

 

Assim, quem tem repertório amplo pede muitos pontos, e a figura que se forma é de fato poderosa; quem tem repertório estreito recebe de volta, com acabamento impecável, o seu próprio estreitamento. A máquina não completa o que não lhe foi dado. Nessa visão, a IA não tem vida própria nem terá tão cedo, já que inteligência é algo mais complexo do que juntar informação.

 

Estabelecido o que a máquina faz, resta a pergunta mais interessante, que é política. As declarações catastrofistas teriam motivos possíveis não são poucos: desviar a atenção do debate sobre a bolha de investimentos em IA, pressionar por regulação que dificulte a vida de concorrentes chineses e de novos entrantes, construir justificativas dignas para novas rodadas de captação. Será que esse argumento é instrumental para encerrar o código aberto e concentrar poder técnico e econômico. Silvio Meira, ao comentar o episódio, reduziu a questão ao osso: não se trata de saber se o risco técnico é real, mas de entender por que o alarme tocou exatamente agora. O que se pediu ao governo americano — licenciamento prévio, veto estatal ao produto do concorrente, controle de exportação — corresponde a três das quatro alavancas clássicas de fechamento de mercado, e foi pedido, em um fim de semana, pela empresa que mais tem a perder caso o mercado permaneça aberto.

 

Sinceridade e interesse não são coisas excludentes: é inteiramente possível que os alarmistas acreditem no que dizem e, ao mesmo tempo, lucrem com isso. A IA, em si, não é o perigo, do mesmo modo que aviões não eram o perigo em 11 de setembro de 2001. Humanos com IA são — e humanos com IA, contexto, amplitude e más intenções mais ainda, numa sociedade tão desigual quanto a nossa, onde o apocalipse e o paraíso sempre nos espreitaram. A novidade não é o abismo. É a velocidade com que a figura se completa, e o que nós pensamos, inevitavelmente, no que chamar de inteligência.

 

---

Deixe seu comentário