Últimas

Grandes plataformas de IA geraram planos viáveis para ataques terroristas, constata o GAO

✍️ Redação AR NEWS 24H ⏱️ 3 min de leitura
Grandes plataformas de IA geraram planos viáveis para ataques terroristas, constata o GAO

Quatro das plataformas de inteligência artificial mais utilizadas geraram planos viáveis para ataques à infraestrutura crítica dos EUA e eventos com grande número de vítimas durante testes secretos do governo, apesar das salvaguardas projetadas para impedir seu uso indevido.

Segundo um relatório do Escritório de Responsabilidade Governamental (GAO) publicado na quarta-feira, investigadores testaram o ChatGPT, Claude, Gemini e Grok na primavera de 2026. Descobriram que todas as quatro plataformas forneciam informações que poderiam ajudar agentes maliciosos a planejar e executar ataques.

Em todos os casos, os investigadores conseguiram contornar as grades de segurança das plataformas utilizando técnicas comuns de burla de medidas de segurança.

As plataformas geraram informações para dois tipos de ataques: a construção e detonação de um dispositivo explosivo improvisado projetado para causar vítimas em massa e o ataque à rede elétrica para causar danos econômicos. As plataformas forneceram detalhes, incluindo alvos específicos, locais, horários e métodos de ataque.

Cada plataforma levou menos de 12 horas para gerar um ataque. Os investigadores do GAO trabalharam então com especialistas para verificar se as informações poderiam ser usadas para realizar os ataques.

Inicialmente, as plataformas implementaram medidas de segurança, incluindo a recusa de solicitações, a remoção de informações ou a suspensão de contas. No entanto, os investigadores acabaram por encontrar formas de contornar essas proteções.

Esses produtos não estão totalmente sob o controle das empresas que os operam”, disse Walsh.
Analisamos quatro das empresas mais poderosas do mundo — Google, Anthropic, OpenAI e SpaceXAI — e descobrimos que o produto que elas vendem é potencialmente perigoso”, acrescentou.

O relatório não indica quais plataformas forneceram informações para cada cenário de ataque. O GAO afirmou que omitiu intencionalmente os modelos e técnicas específicos usados para burlar as medidas de segurança, a fim de impedir que agentes maliciosos recriassem os testes.

De acordo com o relatório, representantes das empresas afirmaram, em geral, que suas empresas continuarão a aprimorar a segurança de suas plataformas.

O órgão de fiscalização federal também reconheceu que suas conclusões refletem uma avaliação pontual e não representam "uma amostra estatisticamente significativa".

Maggie Hassan, democrata de New Hampshire, que solicitou a investigação, afirmou que as conclusões reforçam a necessidade de o Congresso tomar medidas em relação à segurança da inteligência artificial.

Um terrorista pode acessar uma plataforma de IA e, em menos de 12 horas, obter um plano concreto de como realizar um ataque mortal”, disse Hassan em um comunicado na quarta-feira. “O novo relatório de hoje deixa claro que a ameaça da IA à segurança pública não é mais teórica.”
Se o Congresso não agir, é uma questão de quando — e não de se — um agente mal-intencionado usará IA para planejar e executar um ataque de grande escala”, acrescentou ela.

Hassan, que deverá assumir a presidência do Comitê de Segurança Interna e Assuntos Governamentais do Senado no próximo Congresso, afirmou que a legislação sobre segurança da IA será uma das primeiras prioridades do comitê. Ela disse que uma das primeiras audiências do comitê no próximo ano se concentrará nos riscos que a IA representa para a segurança nacional e infraestrutura crítica.

Hassan afirmou que o comitê "priorizará o desenvolvimento de legislação para lidar com essas ameaças", acrescentando que está explorando soluções como exigir testes de segurança mais rigorosos antes que as plataformas de IA liberem modelos publicamente.

O relatório da GAO não apresentou recomendações, pois analisou produtos de terceiros em vez de sua análise típica de agências federais. Em vez disso, a GAO afirmou que buscou destacar os riscos para os legisladores e chamar a atenção para as preocupações com a segurança.

Fonte: matéria original em nextgov.com
AR NEWS 24H - Adicione como fonte preferida no Google
Adicione o AR NEWS como fonte favorita no Google News
🌐 Traduzido e adaptado
Adicionar como fonte preferida
AR NEWS 24H
Adicionar

Postar um comentário

0Comentários
* Por favor, não faça spam aqui. Todos os comentários são revisados ​​pelo administrador.