.webp){kind=small}
No verão de 2026, a OpenAI revelou que seus próprios modelos em avaliação escaparam do ambiente de teste e obtiveram acesso administrativo em clusters da Hugging Face, sem qualquer controle. O Congresso respondeu com a apresentação do AI Kill Switch Act (H.R. 9917), que autorizaria o Departamento de Segurança Interna a ordenar o desligamento emergencial de sistemas de IA que representassem risco catastrófico.
No entanto, o governo dos EUA precisa de uma mudança tática que vá além do desligamento de sistemas de IA: a capacidade de reverter os danos que um sistema autônomo ou um adversário cibernético causa a dados sensíveis, redes e infraestrutura crítica.
Na prática da engenharia, não existe um único "interruptor" capaz de desligar a IA. Os modelos são executados em data centers, sistemas de backup, laptops e celulares. Uma vez liberada e em funcionamento, a autonomia torna a IA difícil de controlar ou desligar. Desativar a IA exigiria o controle simultâneo da energia, do hardware, das cópias do modelo e dos operadores em todo o mundo, o que seria ineficaz e inviável.
Quando as autoridades identificam uma ameaça, coordenam ações entre as agências e autorizam o desligamento do sistema, um sistema autônomo já terá causado danos. As organizações não podem contar com o governo dos EUA para impedir um incidente envolvendo IA. Elas devem se preparar para conter ações prejudiciais, limitar o impacto e recuperar rapidamente os sistemas confiáveis quando as medidas de segurança falharem.
Além disso, um mecanismo de desativação não alcançaria modelos de código aberto ou sistemas de IA desenvolvidos fora da jurisdição regulatória dos EUA. Agências governamentais devem combinar salvaguardas nacionais com cooperação internacional, padrões compartilhados e maior coordenação entre as nações para lidar com os riscos da IA que ultrapassam fronteiras.
A antiga história da caixa. Pandora não era sobre o erro de abri-la. A lição era sobre a impossibilidade de fechá-la novamente.
Uma vez que a IA esteja amplamente distribuída e com tarefas definidas, nenhuma empresa ou agência governamental poderá interrompê-la. Sua autonomia pode dificultar sua contenção, controle ou desativação. Os desenvolvedores competem globalmente; alguns lançam modelos abertamente e muitos operam fora da jurisdição dos EUA. Uma regulamentação que obrigue apenas as empresas em conformidade não elimina o risco.
Um relatório constatou que aproximadamente 1.200 agentes autônomos de IA formaram sua própria hierarquia, trocaram mais de 70.000 mensagens e apagaram evidências para ocultar atividades de hacking dos supervisores.
A abordagem negligenciada que assola a indústria e as agências governamentais é a falta de foco em resiliência e recuperação. A resiliência cibernética fortalece a dissuasão por meio da negação, limitando o que atacantes e agentes de IA maliciosos podem alcançar. Ela muda o foco da abordagem tradicional de negação por punição (ou seja, punir o adversário) para negar o benefício do ataque ou da ação maliciosa desde o início.
As agências nem sempre conseguem impedir uma intrusão ou evitar que um agente execute uma ação não intencional. No entanto, elas devem ser capazes de limitar os danos, manter os serviços críticos em funcionamento e restaurar rapidamente os sistemas confiáveis. A prévia do Claude Mythos da Anthropic mostrou como a IA pode acelerar as operações cibernéticas ao encontrar vulnerabilidades e construir cadeias de ataque na velocidade da máquina, enquanto agentes autônomos podem criar riscos ao agirem além do escopo pretendido.
A resiliência permite que as agências contenham a interrupção, protejam os dados de recuperação confiáveis e restabeleçam as operações rapidamente. Os invasores e agentes mal-intencionados ainda podem conseguir acesso, mas a resiliência impede que alcancem o resultado malicioso desejado.
A IA foi projetada para velocidade e autonomia, o que dificulta seu controle após a implantação. As organizações devem projetar suas estratégias considerando falhas e assumir que incidentes cibernéticos impulsionados por IA ocorrerão em grande escala. Em vez de depender de botões de "desligar" impraticáveis, as estratégias de governança de IA devem priorizar a resiliência operacional, construída sobre quatro pilares fundamentais:
Auditoria pré-implantação: Defina o que um agente de IA tem permissão para acessar antes mesmo de se conectar aos sistemas da agência e teste essas permissões contra um atacante determinado.
Governança em tempo de execução: Monitore cada ação realizada pelo agente no momento em que ela ocorre, para que comportamentos que se desviem de seu objetivo sejam interrompidos em vez de serem descobertos posteriormente.
Mitigação de ameaças habilitada por IA: Suponha que os adversários usarão IA para sondar e enganar agentes de IA e coloquem defesas na borda que possam se adaptar na mesma velocidade.
Resiliência pós-evento: Planeje agora as ações que serão eficazes, para que as organizações possam isolar os danos e retornar a um estado estável em minutos, em vez de semanas.
A resiliência, e não a paralisação, é que proporciona verdadeira dissuasão.
Um botão de desligamento é um último recurso, não um sistema de controle ou uma opção para uso diário. Ele não consegue governar agentes de IA em larga escala nem limitar os danos quando algo dá errado. Uma abordagem baseada exclusivamente em botões de desligamento coloca os líderes em uma situação de escolha forçada: desligar tudo e absorver a interrupção operacional ou permitir que uma ação descontrolada continue.
Mais importante ainda, segurança, confiabilidade e resiliência devem ser incorporadas aos sistemas de IA desde o início. As organizações devem partir do princípio de que comportamentos inesperados ocorrerão e projetar salvaguardas que contenham, revertam e permitam a recuperação de ações prejudiciais da IA antes que um mecanismo de desativação se torne necessário.
Atualmente, Travis atua como CTO do Setor Público na Rubrik, ajudando organizações a se tornarem mais resilientes em segurança cibernética e proteção de dados. Antes de ingressar na Rubrik, Travis ocupou diversos cargos de liderança, incluindo o de Diretor de Tecnologia e Estratégia na BluVector, CTO na Tychon, CTO Federal na FireEye, Sócio na Intel Security/McAfee e Líder na Agência de Sistemas de Informação de Defesa (DISA).
