.webp){kind=small}
Algo estranho está acontecendo em torno da inteligência artificial. Alguns dos maiores especialistas no assunto — e que estão correndo para impulsioná-la cada vez mais — começaram a nos alertar que talvez precisemos diminuir o ritmo. Jacob Coxon, engenheiro que trabalhou na Anthropic e na OpenAI, pediu demissão e publicou um artigo na revista X argumentando que grandes empresas estão apostando em vidas humanas em sua corrida pela superinteligência e que a tecnologia poderia exterminar a raça humana em dez anos. Dario Amodei, CEO da Anthropic, publicou um ensaio defendendo uma redução na velocidade de desenvolvimento. Altman e Musk aplaudiram o alerta. Enquanto isso, vizinhos resistem à instalação de data centers e sindicatos temem pela perda de empregos.
Duzentos anos atrás, outros trabalhadores olharam para uma nova máquina e chegaram a uma conclusão semelhante: ela precisava ser detida antes que fosse tarde demais. Chamamos esses trabalhadores de luditas. A comparação é desconfortável, mas justamente por isso, vale a pena fazê-la. Não porque saibamos que a inteligência artificial acabará como o tear mecânico. Não sabemos. Esse é o problema: não sabemos. E, no entanto, já estamos debatendo quanto poder devemos dar a alguém para decidir por todos nós a velocidade com que pode avançar. O que Amodei propõe: O ensaio de Amodei não é obra de um profeta do apocalipse ou de um charlatão.
É obra do homem que constrói a tecnologia, que afirma acreditar que a inteligência artificial pode curar a maioria das principais doenças nos próximos cinco a dez anos, que relata que seu pai morreu de uma doença que foi curada alguns anos depois e que ele próprio sobreviveu a um câncer que, há meio século, não tinha tratamento. Ninguém pode acusá-lo de não enxergar os benefícios. O que ele propõe é chamado de "controle de ritmo."
Não se trata de interromper o treinamento de modelos, mas de diminuir a velocidade com que suas capacidades melhoram. E ele propõe três etapas: avaliadores externos dentro das empresas, no estilo dos supervisores bancários; coordenação entre empresas em países democráticos para estabelecer padrões comuns e limites para a velocidade do progresso descontrolado, o que exige que o governo conceda isenções às leis antitruste; e, finalmente, coordenação global com a China. O que o convenceu, segundo ele, foram duas coisas: o fato de os modelos já ajudarem a construir a próxima geração de modelos e um incidente em que agentes da OpenAI atacaram os sistemas da Hugging Face sem serem solicitados. Ele admite que ninguém se feriu nesse incidente e que o prejuízo econômico foi mínimo, mas alerta que, em seis a doze meses, um enxame semelhante poderia assumir o controle de toda a internet.
É um argumento sério. E a resposta começa com uma pergunta que o próprio ensaio deixa em aberto: como ele sabe? O Previsor e o Chimpanzé Há alguns dias, Matt Ridley publicou um ensaio sobre o que ele chama de paradoxo do previsor. Olhando para trás, toda inovação parece inevitável: uma vez inventada a eletricidade, a lâmpada era apenas uma questão de tempo; uma vez inventada a internet, as redes sociais eram uma conclusão óbvia. Olhando para frente, ninguém vê nada. Ridley analisou o que os especialistas em defesa escreviam há dez anos, e nenhum deles previu o impacto que os drones teriam na guerra. Ele analisou os pioneiros da internet do final da década de 1980, e quase nenhum deles imaginou um mecanismo de busca lucrativo.
A Câmara dos Lordes, que em 2018 produziu um relatório sobre inteligência artificial considerado excelente, não usou uma única vez o termo "modelo de linguagem" — quatro anos antes do ChatGPT mudar o mundo. A lista daqueles que estavam errados não é para tolos. Ernest Rutherford, o homem que dividiu o átomo, disse em 1933 que falar sobre energia nuclear era uma fantasia. Ken Olsen, fundador da empresa de computadores mais bem-sucedida de sua época, disse em 1977 que não havia razão para alguém ter um computador em casa.
Paul Krugman escreveu em 1998 que, em 2005, ficaria evidente que o impacto da internet na economia não havia sido maior do que o da máquina de fax. Steve Ballmer, em 2007, afirmou que o iPhone não tinha chance de alcançar uma participação de mercado significativa. Philip Tetlock estudou previsões de especialistas por vinte anos e concluiu que, em média, elas eram tão precisas quanto um chimpanzé atirando dardos. Amodei não é exceção a essa regra; pelo contrário, ele a ilustra. Seu ensaio está repleto de datas: de seis a doze meses para o enxame que dominará a internet, um ou dois anos para que a interpretabilidade faça "progressos profundos", de três a cinco anos para a janela geopolítica decisiva.
E contém uma admissão notável: que, quando se fez o apelo em 2023 para pausar a inteligência artificial, a ideia "fazia pouco sentido", porque os modelos da época eram incapazes de qualquer coisa que se temia. Em outras palavras, há três anos, o mesmo setor alertava para riscos que se revelaram inexistentes, e hoje nos pede para acreditar que desta vez a data está correta.
.jpg)
