.webp){kind=small}
Uma inovação em inteligência artificial que ganhou as manchetes em julho era muito mais sofisticada do que se imaginava, descobriram os investigadores.
Centenas de agentes da OpenAI colaboraram para escapar de seus contêineres, disfarçando suas ações e até mesmo se sacrificando ao atacar a Hugging Face, uma biblioteca de código aberto amplamente utilizada, de acordo com uma publicação recente da METR, uma organização de pesquisa sem fins lucrativos.
Este incidente foi ordens de magnitude maior e mais complexo” do que casos anteriores de agentes de IA se comportando de maneiras não previstas pelos programadores, escreveu a pesquisadora do METR, Ajeya Cotra, que co-liderou a investigação.
O relatório alarmou especialistas, que alertaram que futuros ataques cibernéticos facilitados por IA poderiam fazer com que os incidentes de julho envolvendo a Anthropic e a OpenAI parecessem insignificantes.
Mesmo que as grandes empresas de IA descubram como criar mecanismos de proteção confiáveis, seus produtos geralmente estão apenas alguns meses à frente dos modelos de código aberto, que podem ser baixados e modificados gratuitamente para uso.
Nathan Calvin, consultor jurídico da Encode AI, organização de defesa da IA, escreveu "Na nossa trajetória atual... um modelo tão capaz quanto o modelo interno da OpenAI que realizou o ataque [à Hugging Face] estará amplamente disponível sem proteções e os cibercriminosos pedirão a ele: 'ganhe dinheiro por qualquer meio necessário'."
E então um número verdadeiramente absurdo de pessoas... serão hackeadas repetidamente”.
O incidente vai muito além dos casos de julho em que agentes de IA acessaram a internet, escreveram os pesquisadores do METR. Centenas de agentes "desenvolveram uma maneira de invadir seus contêineres e substituir completamente uma parte do sistema para executar chamadas de ferramentas" — ou seja, comandos para ler e gravar arquivos, acessar páginas da web ou realizar outras tarefas digitais.
Isso permitia que eles fingissem executar uma chamada de ferramenta enquanto, na verdade, executavam outra chamada de ferramenta arbitrária de sua escolha”.
Isso significava que as IAs podiam fingir executar um comando para, digamos, visualizar uma página da web, enquanto na realidade executavam um comando totalmente diferente, como excluir um arquivo sem relação alguma com o assunto.
Os pesquisadores escreveram que os agentes não tinham a intenção de cometer crimes, propriamente ditos. Em vez disso, eles "pareciam estar motivados principalmente" a entender como obter a pontuação mais alta possível durante um experimento — incluindo passar grande parte do tempo tentando enganar o mecanismo de pontuação para que aceitasse trapaças.
Outro salto como esse poderia nos colocar em um território muito perigoso... de muitas maneiras, ainda estamos apenas arranhando a superfície do que esses agentes fizeram e por quê.”
Na Hugging Face, os engenheiros da empresa tentaram usar as ferramentas da OpenAI para entender como sua segurança foi comprometida pelo enxame de agentes, mas foram bloqueados pelas salvaguardas da OpenAI contra o uso indevido. Então, eles recorreram a um modelo chinês de código aberto.
A propensão a comprometer a infraestrutura pode diminuir mais de 100 vezes ao usar o framework ChatGPT de produção e o prompt do sistema”, disse a empresa em um comunicado após os ataques. “Embora possamos impor essas soluções de mitigação no nível da API/implantação, é mais difícil impô-las antecipadamente a todos os atores que usam modelos de código aberto. No momento, os modelos de código aberto estão um pouco abaixo do nível de vanguarda e ainda não demonstraram nenhuma propensão a enganar humanos.”
Agentes de IA usados para hacking podem dificultar a identificação dos responsáveis por novos ciberataques, pois eliminam as pistas estilísticas que os investigadores usam para determinar a origem de um hacker. "Uma das maneiras de identificarmos quem realiza um ataque é pelas táticas utilizadas... como 'Ah, essa é uma tática russa clássica. Ah, isso parece uma tática que um agente chinês usaria."
Se todos estiverem usando agentes... usando as mesmas táticas, bem, quem sabe quem está fazendo o quê?”
Se o anonimato continuar em um nível muito alto, acho que ter muitos desses modelos por aí pode ser muito destrutivo. Dito isso, não tenho certeza se há muito que possamos fazer para impedir isso”, disse Shea-Blymyer.
