.webp){kind=small}
ENTREVISTA COM ESPECIALISTA -- Por décadas, autoridades de segurança nacional têm se preocupado com os ciberataques que se movem na velocidade das máquinas, e hoje a corrida de vanguarda da IA está mudando de modelos que respondem a perguntas para modelos capazes de tomar decisões consequentes de forma independente e agir no mundo digital atual. Então, o que vem a seguir?
Diversas empresas líderes mundiais em IA lançaram novos e poderosos modelos nos últimos meses. A OpenAI apresentou o GPT-6 Astra, com grandes avanços no uso autônomo de computadores. Notavelmente, a OpenAI afirma que o Astra é o primeiro modelo da empresa a atingir o limiar de capacidade de cibersegurança "Crítica", o que significa que ele pode potencialmente descobrir e explorar vulnerabilidades até então desconhecidas com muito menos intervenção humana.
A Anthropic lançou recentemente o Claude Fable 5.1 e o Mythos 5.1, com foco em programação mais sofisticada e pesquisa científica. O Google lançou o Gemini 3.8 Flash e o Gemini 3.8 Flash Cyber, sendo este último projetado especificamente para encontrar, verificar e ajudar a corrigir vulnerabilidades de software de forma autônoma. E, para não ficar de fora, a Meta lançou recentemente o Muse Spark 1.3, com foco em programação e tarefas de agentes autônomos.
A principal conclusão de todas essas notícias é que os modelos estão se tornando cada vez mais capazes de agir de forma independente. E os comunicados reforçam a rapidez com que a competição entre as empresas de IA dos EUA (e, cada vez mais, entre os desenvolvedores chineses e do Golfo) está se intensificando.
Em julho passado, tivemos um primeiro vislumbre do que é possível, quando agentes de IA testados pela OpenAI escaparam do ambiente de avaliação de cibersegurança para o qual foram projetados e encontraram maneiras de se comunicar e colaborar entre si. Os agentes obtiveram acesso mais amplo à internet e, por fim, comprometeram sistemas pertencentes à plataforma de IA Hugging Face, executando código em dezenas de servidores da empresa.
O que tornou o incidente particularmente notável foi a ausência de humanos nesse processo. Eles não instruíram os agentes a atacar a Hugging Face. Em vez disso, o comportamento surgiu enquanto os modelos tentavam resolver tarefas complexas de segurança cibernética e acabaram colaborando em explorações além do ambiente para o qual foram designados.
Poucas pessoas entendem esse novo ambiente e o que ele significa para o futuro da cibersegurança e da segurança nacional melhor do que o ex-diretor da Agência de Segurança Nacional (NSA), General Paul Nakasone (aposentado). Além de fundar o Instituto de Segurança Nacional da Universidade Vanderbilt desde que se aposentou do serviço público, Nakasone também integra o conselho da OpenAI. E de 2018 a 2024, ele liderou simultaneamente a NSA e o Comando Cibernético dos EUA, supervisionando algumas das operações de inteligência e cibernéticas mais sensíveis dos Estados Unidos.
Se você estivesse voltando ao escritório do diretor da NSA amanhã, o que estaria no topo da sua pasta de informações que não estaria lá há apenas dois anos?
Certamente, seria a inteligência artificial. Saí da NSA e do Comando Cibernético dos EUA justamente quando a IA estava começando. E digo a vocês, quando pensamos em tecnologia disruptiva, não há nada mais disruptivo hoje do que a IA, ainda mais do que a tecnologia dos smartphones que começamos a ver em 2007. Esta é realmente a grande oportunidade do presente e do futuro, e, em grande parte, também o grande desafio.
E o desafio é acompanhar tudo isso, não é? Parece que, a cada edição do Cipher Brief, surgem novos detalhes sobre máquinas hackeando máquinas, inteligência artificial sendo usada por diferentes países, adversários e grupos criminosos. O que mais lhe preocupa e os EUA estão preparados para lidar com isso?
Acho que o primeiro aspecto que apresenta uma diferença tão drástica é a velocidade. Quando pensamos no aspecto temporal da inteligência artificial, meu Deus, o ChatGPT foi lançado apenas no outono de 2022. E em menos de quatro anos, passamos de comandos básicos para raciocínio, para pesquisa aprofundada e para IA proativa. E estamos começando a ver uma diferença entre ataque e defesa. E acho que nosso desafio nos próximos anos será: como elevar a defesa ao mesmo nível de poder do ataque no futuro?
IA por hackers, mas parece que agora estamos a testemunhar algo fundamentalmente diferente: sistemas de IA que conseguem, de fato, realizar partes significativas de uma operação cibernética de forma autónoma.
Com a Hugging Face e os desafios associados a ela, e também com os testes recentes de modelos como o GPT 5.6 e o Claude Fable 5, estamos começando a ver esses modelos se tornarem incrivelmente poderosos. Então, acho que a questão passa a ser se esses modelos podem ser tão eficazes no ataque quanto na defesa. E como podemos garantir que comecemos a dar mais peso à defesa necessária do que ao ataque?
É fascinante pensar que, quando o atacante realmente não está dormindo, não está se cansando, não está cometendo erros bobos e pode atingir milhões de vítimas em potencial simultaneamente, isso muda todo o cenário. Isso significa que cada setor desse cenário precisa repensar seu papel. Então, vamos analisar a perspectiva do governo. Você acha que o governo está atualmente preparado para lidar com essa nova realidade?
Será que algum de nós está realmente preparado para as mudanças drásticas que estão acontecendo agora? Se eu pudesse dar um passo atrás, pensaria no que costumávamos discutir quando defendíamos nossas redes: nossos dados e nossos sistemas de armas. Tínhamos a regra 1-10-60. Em um minuto, identificávamos algo anômalo; em 10 minutos, determinávamos o que era; e em 60 minutos, corrigíamos o problema.
Vou lhes dizer que hoje essa regra já era. Então, a questão é: se já passamos para operações autônomas no ataque, como conseguimos isso na defesa? Somos capazes, mas precisamos repensar a forma como realizamos nossos testes de penetração, como fazemos nossos testes de intrusão, como identificamos vulnerabilidades e como as corrigimos rapidamente. Como priorizamos? Há diversas áreas em que, tenho certeza, tanto o governo quanto o setor privado estão repensando em termos de tempo.
Do ponto de vista governamental, existem medidas que poderíamos tomar de forma diferente para nos posicionarmos melhor e acompanhar esse novo ritmo?
Ao refletirmos sobre as responsabilidades do governo, percebemos que ele é responsável pela segurança da nossa nação e do nosso povo. Portanto, a questão imediata é como garantir que esses modelos de peso fechado sejam seguros no futuro? Como fazer isso em conjunto com o setor público e o setor privado? É realmente interessante, pois a inteligência artificial é uma tecnologia que está sendo desenvolvida quase que inteiramente pelo setor privado.
Então, em vez de capacidades nucleares e espaço, áreas em que o governo estava profundamente envolvido e era capaz de impulsioná-las, tudo isso está sendo feito pelo setor privado. Portanto, acho que a questão é: o que o governo pode fazer? E a resposta é que o governo pode fazer várias coisas.
Primeiro, eles podem reunir as principais empresas dos EUA em termos do que estão fazendo. Podem fornecer uma série de incentivos e sanções em relação ao que faremos no futuro. E, mais importante, podem apresentar uma ideia de como começar a pensar de forma diferente sobre como garantir a segurança desses modelos e fazê-lo de maneira segura.
O recente Decreto Executivo de 2 de junho inicia essa discussão para modelos que chegam – de forma voluntária – e são avaliados 30 dias antes de serem divulgados. Esse é um bom passo na direção certa.
Estamos nos aproximando de um momento em que você acha que a presença humana no processo pode, na verdade, representar uma vulnerabilidade?
Acho que teremos que abandonar a ideia de que os humanos estão sempre no controle. Acredito que os humanos podem estar no topo do processo. Os humanos têm a responsabilidade de compreender os resultados e os objetivos, bem como de entender e definir os parâmetros em termos de salvaguardas e medidas de segurança, além de verificar se esses modelos estão de acordo com nossos valores e crenças. Esse é um papel para os humanos. Mas acho que, cada vez mais, caminharemos para operações mais autônomas, tanto na defesa quanto, certamente, no ataque também.
Os adversários têm regras diferentes. Eles não são democracias, não compartilham os mesmos valores. A Operação Salt Typhoon e as campanhas chinesas em geral levantaram a preocupante possibilidade de que Pequim não esteja simplesmente roubando informações, mas sim se posicionando dentro da infraestrutura americana para obter vantagem durante uma crise. Sabemos disso há algum tempo. Também sabemos onde estão as vulnerabilidades que nem sempre conseguimos identificar. Como você avalia essas diferenças nas capacidades dos adversários e o que os EUA precisam fazer para se defender melhor?
Os tufões Typhoon e Volt Typhoon nos mostraram como nossas comunicações e nossa infraestrutura crítica foram afetadas. Mas eu também gostaria de avançar para os dias de hoje, com as preocupações em relação à água em 12 estados diferentes. Consideramos isso uma parte significativa e vulnerável de nossa infraestrutura crítica e recursos essenciais. Então, o que estou começando a pensar são as áreas em que precisamos elevar o nível de segurança cibernética. O que faremos a curto prazo? O que faremos a médio prazo? E o que faremos a longo prazo?
O ponto crucial é que precisamos repensar nossas parcerias. Como podemos unir os setores público e privado? Como podemos aproveitar a expertise acadêmica para pesquisar e analisar nossas vulnerabilidades sob uma perspectiva diferente? E, aliás, se realmente temos pessoas trabalhando em nossa infraestrutura crítica, como priorizar a retirada delas e, em seguida, mitigar essas vulnerabilidades?
Quando criamos o Instituto de Segurança Nacional na Universidade Vanderbilt, há dois anos, uma série de ideias fundamentava o nosso trabalho. Em primeiro lugar, a ideia de que a definição de segurança nacional mudou drasticamente. Quando entrei para o exército, tudo girava em torno de ter dois vizinhos muito amigáveis ao norte e ao sul e dois vastos oceanos a leste e a oeste. Hoje, eu diria que as fronteiras geográficas já não impedem a entrada de tecnologias como inteligência artificial e cibersegurança. Portanto, precisamos repensar a definição de segurança nacional.
A segunda questão é que precisamos de uma nova geração de jovens que queiram trabalhar na área de segurança nacional. Deixe-me apresentar uma estatística. Hoje, em nosso governo, menos de 9% dos profissionais da segurança nacional têm menos de 30 anos e mais de 40% têm mais de 50. Precisamos de uma nova geração de jovens que ingressem no Corpo da Paz, no Departamento de Estado, nas forças armadas, que possam trabalhar nos níveis estadual, local e também nacional. Então, como podemos inspirar os universitários a pensarem de forma diferente sobre o futuro?
E a parte final aborda o Laboratório de Problemas Complexos da Universidade Vanderbilt. Somos a solução pragmática para problemas. Analisamos um problema e, em vez de escrever um documento político abrangente que pode ser engavetado pelos próximos 10 anos ou sequer lido, encaramos um desafio de segurança nacional, como a proteção de nossos sistemas de água, e questionamos como podemos desenvolver uma série de parcerias que unam tecnologia, talento e conhecimento especializado. Portanto, este Laboratório de Problemas Complexos é um dos pilares do nosso trabalho na Universidade Vanderbilt.
Quão confiante você está de que realmente saberemos a extensão do acesso chinês à infraestrutura americana?
Estou confiante, muito confiante. Passei toda a minha carreira na comunidade de inteligência e existem certas vantagens competitivas que os Estados Unidos têm sobre qualquer nação do mundo, e uma delas é a inteligência. Então, a questão é como aproveitamos essa nova tecnologia, como a inteligência artificial, e desenvolvemos novos talentos, garantindo que nossa comunidade de inteligência tenha a expertise necessária para investigar a fundo tanto a capacidade quanto as intenções de nossos adversários. Se estivermos falando dos chineses, dos russos, dos norte-coreanos, dos iranianos, ou mesmo de uma série de hackers, minha impressão é que temos uma vantagem. O que precisamos fazer é continuar a buscar essas vantagens e garantir que tenhamos as autorizações adequadas – como a renovação da Seção 702.
E precisamos garantir que vamos atrair novos parceiros para sermos capazes de resolver esses problemas complexos.
Inteligência Artificial
Quão drasticamente você vê o papel de um analista, operador ou alguém em uma dessas unidades muito especiais da NSA mudando? Quão drasticamente você vê seus papéis mudando por causa da IA?
De forma dramática. Quando me perguntavam o que a Agência de Segurança Nacional (NSA) fazia, eu tinha uma resposta bem rápida. Há duas coisas que fazemos melhor do que qualquer outra pessoa no mundo: criamos código e quebramos código. Bem, foi muito interessante ler recentemente que a Anthropic estava falando sobre seus modelos, que agora começam analisando diferentes algoritmos criptográficos, algoritmos que são realmente voltados para criptografia pós-quântica, e a capacidade de quebrá-los. Então, acho que vamos usar as técnicas de criptografia para entender como nosso código é criado e como ele é quebrado. Essas técnicas realmente nos levarão a novos caminhos.
A suspeita de que o Irã esteja infiltrando os sistemas de água em 12 estados não é um problema novo. Então, como informar mais americanos sobre os riscos reais e o verdadeiro ambiente de segurança cibernética em que vivemos?
A primeira coisa a fazer é nos comunicarmos de forma concisa e clara. Se analisarmos o problema dos iranianos supostamente presentes em nossos sistemas de água, uma das coisas que podemos afirmar é que a solução é bastante simples. O primeiro passo é identificar os controladores lógicos programáveis (CLPs), que são o cérebro digital da nossa infraestrutura hídrica, pois, se conectados à internet, ficam vulneráveis. Portanto, se eliminarmos essa conexão e garantirmos que os CLPs estejam isolados da internet, e se começarmos a pensar de forma diferente sobre a construção de firewalls ou a implementação de autenticação multifatorial, elevando o nível de segurança cibernética, acredito que isso realmente mudará a situação e nos permitirá solucioná-la.
Mas há outra coisa que eu gostaria de dizer. Temos adversários hoje que não conseguiremos resolver apenas com correções de segurança. Então, usando minha experiência como Comandante do Comando Cibernético dos EUA, acredito que qualquer adversário que comece a observar nossa infraestrutura de forma intencional ou com capacidade para tal, precisamos enfrentar. E precisamos dificultar ao máximo, eliminando sua infraestrutura no exterior, trabalhando com diversos parceiros, realizando uma série de ataques preventivos para garantir que eles não consigam mais acessar nossas comunicações, nosso transporte, nosso abastecimento de água, nossas finanças, e enviar uma mensagem clara: "Se vocês interferirem em nossa infraestrutura, vamos garantir que tenham um dia muito, muito ruim".
Assim como fizemos com as eleições, devemos aplicar essa estratégia a outras partes de nossa infraestrutura crítica.
Você acha que, fundamentalmente, as capacidades e as decisões que estão sendo tomadas são tão sólidas quanto eram há alguns anos?
Não sei exatamente o que estão fazendo hoje. Mas eis o que sei. Conheço bem as organizações. Conheço bem a comunidade. E a minha impressão é que estão muito, muito focados não só em identificar e responsabilizar, mas também em tomar uma série de medidas contra essas pessoas. São capazes de fazer isso? Sim. O ponto em que se encontram no processo agora é algo que cabe mais ao governo discutir.
