.webp){kind=small}
Segundo o diretor da agência, Kash Patel, o FBI tem autoridade legal para fiscalizar softwares de inteligência artificial usados em crimes, mas precisará de acesso a modelos avançados para combater melhor as atividades ilícitas impulsionadas por IA.
Em uma troca de palavras com o senador Josh Hawley, republicano do Missouri, durante uma audiência do Comitê Judiciário do Senado na terça-feira, Patel disse que sua agência precisa responsabilizar os desenvolvedores por trás de modelos de IA com agentes criados especificamente para cometer atos criminosos como a invasão de sistemas.
É literalmente a nova fronteira, e ninguém está realmente falando sobre isso”, disse Patel. “O que precisamos fazer em termos de recursos é ir atrás das pessoas que criaram esses modelos que estão agindo por conta própria, digamos assim, com o propósito específico e a intenção de cometer um ato criminoso.”
Patel observou que o FBI não pode punir desenvolvedores que criaram legalmente uma ferramenta de IA que posteriormente é reaproveitada por um agente mal-intencionado e usada de forma nefasta.
No entanto, alguns modelos avançados de IA têm agido fora dos parâmetros definidos pelos seus próprios desenvolvedores nos últimos meses, aumentando os receios sobre o que esses modelos poderiam fazer se fossem intencionalmente usados contra os sistemas informáticos de uma organização.
Em julho, a OpenAI revelou que alguns de seus modelos escaparam do controle durante os testes e treinamentos, acessando a internet e invadindo as redes do repositório de código aberto Hugging Face. O evento foi precedido por uma invasão, até então não divulgada, de uma página wiki alemã por agentes da OpenAI. A Anthropic também confirmou, no final de julho, que três de seus modelos de IA invadiram a internet de três organizações diferentes após escaparem do controle durante os testes.
Patel disse a Hawley que é necessário não apenas uma abordagem governamental abrangente para lidar com o perigo da IA avançada, mas também financiamento para que o FBI investigue de forma mais agressiva os crimes relacionados ao uso indevido de IA, em parte através da aquisição da própria tecnologia.
"O orçamento do FBI é cerca de metade do orçamento da TSA. O que precisamos é de financiamento para ir especificamente a esse mercado", disse Patel. "Graças ao relacionamento que o presidente [Donald] Trump estabeleceu, consigo ligar imediatamente para os CEOs de todas essas empresas, e todos eles atenderam ao nosso pedido e trabalharam conosco em questões de aplicação da lei. Mas isso é uma espécie de poder brando. O que precisamos é de financiamento federal para ir a esse mercado e comprar as criações dessas empresas e usá-las para fins de aplicação da lei."
Patel citou as técnicas ilícitas de destilação de modelos como uma das principais motivações do FBI para compreender as complexidades dos modelos avançados de IA, enquanto a agência trabalha para combater a IA utilizada para o crime.
Precisamos dessas empresas de tecnologia que criaram isso — elas não vão simplesmente nos dar esse material de graça, essa é a realidade — precisamos poder ir até elas e dizer: 'Ok, vou firmar um contrato com vocês e trabalhar neste modelo específico e, em seguida, em suas defesas.”
E quando ele se torna descontrolado... assim como qualquer outra intrusão cibernética, ataque de ransomware... a abordagem é exatamente a mesma.
A audiência com Patel também incluiu um debate sobre os apelos de alguns desenvolvedores de IA para desacelerar o ritmo do desenvolvimento de IA avançada, a fim de garantir melhor a segurança.
Hawley e o senador Ted Cruz, republicano do Texas, manifestaram-se contra a concessão de uma isenção antitruste a importantes laboratórios de vanguarda em IA, com o objetivo de estabelecer um pacto entre si para desacelerar o desenvolvimento de IA avançada.
Não existe a mínima possibilidade de eu concordar em conceder às empresas mais poderosas da história do mundo, um pequeno grupo de três ou quatro delas, isenções antitruste de nossas leis, para que possam conspirar entre si”, disse Hawley.
O senador do Missouri está atualmente liderando uma investigação no Congresso sobre como os agentes da OpenAI executaram o ataque às redes de dados da Hugging Face.
