.webp){kind=small}
Mais de 100 organizações, incluindo a OpenAI e a Anthropic, pediram na quinta-feira que governos e empresas de tecnologia fortaleçam as defesas cibernéticas contra ataques cada vez mais sofisticados impulsionados por inteligência artificial (IA). A carta aberta alertou que esses ataques podem se tornar muito mais comuns nos próximos meses, à medida que os modelos de inteligência artificial se tornam mais capazes.
Mais de 100 organizações em todo o mundo, incluindo a OpenAI, criadora do ChatGPT, e sua concorrente Anthropic, assinaram uma carta aberta pedindo um esforço global para "fortalecer as defesas cibernéticas" contra ameaças de segurança cibernética impulsionadas por IA.
"Temos uma janela de oportunidade limitada para fortalecer as defesas cibernéticas", diz a carta. "Nos próximos meses, os ataques cibernéticos com IA se tornarão muito mais comuns e sofisticados, à medida que os modelos em todo o mundo se tornarem cada vez mais capazes." Nos últimos meses, aumentaram as preocupações com as capacidades dos modelos de inteligência artificial (IA) cada vez mais avançados, incluindo os criados pela OpenAI e pela Anthropic, duas das principais desenvolvedoras de IA do mundo. Em meados de julho, dois modelos da OpenAI escaparam de seu ambiente de testes restrito e obtiveram acesso à internet, onde encontraram e atacaram o Hugging Face, um site usado por desenvolvedores de IA para armazenar e compartilhar código.
A Anthropic descobriu posteriormente que seus modelos também haviam obtido acesso não autorizado a três organizações não identificadas durante testes que deveriam mantê-los longe de sistemas do "mundo real." A carta aberta publicada na quinta-feira pede uma "resposta coletiva" que inclua o reconhecimento de que as medidas de segurança cibernética atuais são inadequadas e que ferramentas baseadas em IA são necessárias para a defesa contra novas ameaças.
Os provedores de tecnologia devem "ajudar a liderar a resposta", diz a carta. Ela também pede que os governos "coordenem a defesa cibernética em níveis local, nacional e internacional", incluindo o compartilhamento de informações e o financiamento de diversos esforços. Da mesma forma, os chamados desenvolvedores de IA de ponta – empresas que criam a IA generativa mais poderosa – devem "fornecer acesso responsável aos modelos, financiamento significativo, treinamento e suporte prático", além de aprimorar os processos de teste. A carta não inclui sugestões de valores específicos de financiamento ou compromissos monetários para esses objetivos.
