.webp){kind=small}
Dezenas de autoridades de segurança nacional, atuais e antigas, estimam em 10% ou mais a probabilidade de sistemas de inteligência artificial operarem fora do controle humano na próxima década, segundo uma pesquisa divulgada na quarta-feira.
Muitos também disseram que o risco de uma catástrofe provocada por IA já havia atingido ou ultrapassado o que consideram um nível aceitável.
A pesquisa foi conduzida pelo think tank Institute for Security and Technology e pelo Future of Life Institute, uma organização sem fins lucrativos focada nos riscos representados pelas tecnologias avançadas. Os grupos consultaram 111 especialistas em segurança nacional e IA entre 30 de abril e 15 de julho deste ano, muitos dos quais atuam ou atuaram na comunidade de inteligência, no Congresso, no FBI e na Casa Branca, bem como nos departamentos de Defesa, Energia, Estado e Comércio.
As conclusões ajudam a quantificar a seriedade com que os atuais e antigos líderes de segurança nacional encaram a possibilidade de os humanos perderem o controle de sistemas de IA cada vez mais poderosos, e surgem em meio a uma série de incidentes recentes em que modelos avançados de IA se desviaram notavelmente das tarefas de teste atribuídas por supervisores humanos.
Os entrevistados esperam que a IA transformadora chegue em breve. A maioria prevê inteligência artificial geral — sistemas que igualam ou superam as capacidades cognitivas humanas — até 2032. Eles esperam a superinteligência artificial, uma forma teórica de IA que superaria os humanos em todos os domínios cognitivos, aproximadamente cinco anos depois.
Os especialistas também afirmaram que o uso de IA por adversários estrangeiros para intrusões cibernéticas ofensivas, bem como seu uso para desinformação, são as ameaças que essa tecnologia em rápida evolução trará em curto prazo.
Os nomes das pessoas entrevistadas não foram divulgados. Mas quase metade dos respondentes consta como funcionários atuais ou antigos do Departamento de Defesa, uma agência envolvida em intenso debate sobre o uso militar de IA, que abrange desde ferramentas internas como o GenAI.mil até batalhas judiciais com a Anthropic e o escrutínio do Congresso sobre o possível uso de IA em um ataque mortal a uma escola de meninas iranianas no início deste ano.
A pesquisa também destaca as opiniões dos entrevistados sobre as principais oportunidades militares, com 73% dos especialistas considerando a IA como uma forma de fortalecer a segurança da rede e 61% como uma ferramenta para prever ameaças.
Esta semana, uma versão especializada do ChatGPT da OpenAI foi disponibilizada para uso não classificado pelo Departamento de Defesa dos EUA. A Agência de Segurança Nacional (NSA), gigante da espionagem eletrônica estrangeira e da espionagem cibernética na comunidade de inteligência americana, subordinada ao Departamento de Defesa, vem adotando progressivamente ferramentas avançadas de IA para inúmeras tarefas de segurança cibernética. Na quarta-feira, a Booz Allen Hamilton, importante empresa de consultoria de defesa, determinou que o modelo Claude Mythos, carro-chefe da Anthropic, é capaz de executar uma operação de hacking de forma completa e independente, e afirmou que outros modelos de IA americanos e chineses estão prestes a alcançar esse nível de desempenho.
Os entrevistados definem sucesso principalmente como evitar uma catástrofe, seja por meio de governança, testes, controle humano ou normas internacionais. Ao mesmo tempo, eles veem uma clara promessa para a humanidade na capacidade da IA de acelerar o progresso na ciência e na medicina", diz um relatório sobre as descobertas. "No entanto, em todos os domínios, vimos o mesmo padrão comum: um amplo mandato para salvaguardas coexiste com baixa confiança de que as instituições estejam preparadas para implementá-las."
Houve consenso quase unânime sobre a necessidade de "linhas vermelhas" para manter a supervisão humana em categorias como decisões sobre lançamentos nucleares. Grandes maiorias também apoiaram a proibição de ações militares e operações cibernéticas totalmente autônomas, e 87% dos especialistas temem que a IA possa analisar informações públicas para descobrir informações sensíveis, que poderiam ser usadas em campanhas automatizadas para manipular ou enganar o público.
Os grupos apontaram algumas limitações metodológicas sobre a forma como os resultados foram coletados, principalmente o fato de as pessoas recrutadas para a pesquisa terem sido contatadas por meio de divulgação profissional, e que a amostra de respondentes pode ser tendenciosa, favorecendo pessoas com interesse em políticas de IA. Quase um quarto dos entrevistados trabalhou no governo por pelo menos duas décadas, incluindo uma pessoa com 42 anos de serviço.
