.webp){kind=small}
A cooperação prática deve coexistir com a competição.
Durante a visita do presidente dos EUA, Donald Trump, a Pequim em maio, ele e o presidente chinês, Xi Jinping, concordaram em iniciar um diálogo intergovernamental sobre inteligência artificial. A decisão foi significativa. O último diálogo oficial sobre IA entre os dois países ocorreu em maio de 2024, durante o governo Biden. Dado o ritmo extraordinário do desenvolvimento da IA e o número crescente de incidentes envolvendo sistemas de IA de ponta, é notável que as duas maiores potências mundiais em IA tenham passado mais de dois anos sem uma conversa oficial sobre uma das tecnologias mais importantes da nossa época.
Para que esse diálogo renovado seja bem-sucedido, ambos os governos precisam agir rapidamente e abordá-lo com um claro senso de propósito.
Durante a sessão legislativa nos EUA, a decisão foi significativa.
Há sinais encorajadores de que os dois países estão começando a convergir em pelo menos uma questão: a importância da segurança da IA. Líderes de laboratórios de IA de ponta em ambos os lados. Pacífico começaram recentemente a falar mais abertamente sobre a preparação para a era da inteligência artificial geral (IAG). Em sua primeira publicação no Substack, em julho, Demis Hassabis, cofundador e então CEO do Google DeepMind, argumentou que "medidas urgentes são necessárias para lidar com os riscos que podem surgir à medida que nos aproximamos da IAG"
Um consenso semelhante está surgindo na China. Liang Wenfeng, CEO da DeepSeek, e Tang Jie, cofundador da Z.ai, discutiram recentemente a Inteligência Artificial Geral (IAG) publicamente, enfatizando o desenvolvimento a longo prazo, a avaliação de segurança e a implantação responsável. De forma mais ampla, a comunidade de IA de ponta da China está cada vez mais disposta a se engajar publicamente em questões de governança.
Os governos também começaram a dar mais destaque à segurança da IA em suas agendas políticas. Em junho, o governo Trump emitiu uma ordem executiva e um memorando presidencial sobre segurança da IA.
Em conjunto, esses documentos inserem a segurança e a proteção da IA firmemente dentro de uma estrutura de segurança nacional. Eles enfatizam a gestão dos riscos representados por sistemas de IA cada vez mais capazes — particularmente aqueles relacionados à segurança cibernética, infraestrutura crítica, segurança nacional, aplicações militares e o uso malicioso de IA avançada — ao mesmo tempo que promovem uma estreita cooperação público-privada, avaliações de modelos de vanguarda e a implantação responsável de sistemas avançados de IA.
Na Conferência Mundial de Inteligência Artificial (WAIC, na sigla em inglês), em Xangai, em julho, Xi Jinping dedicou um dos quatro pilares de seu discurso de abertura à segurança da IA. Ao descrever a IA como "uma ferramenta confiável para a humanidade", ele instou os países a "fortalecerem a conscientização sobre os riscos e garantirem que a IA seja segura e controlável"; a estabelecerem leis, monitoramento tecnológico, sistemas de alerta precoce e resposta a emergências; a "prevenirem abusos e usos maliciosos"; e a "garantirem que a IA esteja sempre sob controle humano".
A declaração do presidente da WAIC também enfatizou a importância de manter o "padrão mínimo" de segurança da IA e fortalecer a cooperação contra o abuso da IA por organizações terroristas, grupos extremistas e redes criminosas transnacionais.
Esses desenvolvimentos sugerem que tanto o governo dos EUA quanto o da China reconhecem cada vez mais a segurança da IA como uma questão estratégica. Infelizmente, essa convergência tem sido acompanhada por uma crescente desconfiança estratégica.
O lançamento da Organização Mundial de Cooperação em Inteligência Artificial (WAICO) em Xangai foi interpretado por alguns círculos políticos dos EUA como uma resposta da China à Pax Silica, reforçando a percepção de uma crescente competição institucional pela governança global da IA. Ao mesmo tempo, a competição tecnológica também se intensificou. Após o lançamento do Kimi K3 da Moonshot AI e a subsequente sensação de choque no Vale do Silício com a proximidade dos modelos chineses de código aberto às capacidades de ponta dos EUA, o debate em Washington se intensificou sobre se as empresas chinesas haviam destilado capacidades dos principais modelos americanos.
O Secretário do Tesouro dos EUA, Scott Bessent, posteriormente cogitou sanções contra empresas chinesas de IA, enquanto o Ministério do Comércio da China criticou tais propostas como reflexo de dois pesos e dois pesos e hegemonismo em IA.
A desconfiança mútua também começou a se estender à segurança da IA. O governo Trump tem examinado cada vez mais os produtos e a infraestrutura de IA chineses sob a ótica da segurança cibernética, incluindo restrições à importação de robôs humanoides chineses avançados e inversores de energia conectados, enquanto autoridades americanas também consideraram revisões de segurança adicionais de modelos de IA chineses e sistemas de código aberto. Enquanto isso, o Banco de Dados Nacional de Vulnerabilidades da China identificou o que descreveu como uma vulnerabilidade de backdoor no Claude, da Anthropic, levando o Alibaba a proibir seu uso interno.
Esse padrão de ações recíprocas é preocupante. Se continuar, corre o risco de criar um ciclo de escalada que poderia comprometer o próprio diálogo que ambos os governos concordaram em retomar.
O diálogo renovado sobre IA se desenrola em um contexto de crescentes contradições políticas de ambos os lados. Washington demonstrou grande interesse em discutir os riscos compartilhados da IA de ponta, mas também trata cada vez mais o desenvolvimento de IA de ponta da China como uma ameaça estratégica, ampliando as sanções, os controles de exportação e outras medidas restritivas. Pequim, por sua vez, tem defendido consistentemente um engajamento técnico substancial em vez de discussões politizadas. No entanto, ainda não articulou publicamente uma agenda clara ou objetivos específicos para o diálogo renovado, deixando grande parte da narrativa internacional, e muitos dos itens da agenda propostos, a serem moldados pelos Estados Unidos.
A menos que ambos os governos alinhem melhor seus objetivos declarados com suas políticas e ações, o diálogo corre o risco de ser ofuscado pela competição estratégica em vez de se concentrar na gestão de riscos compartilhados. Isso seria uma oportunidade perdida — não apenas para a China e os Estados Unidos, mas também para a comunidade internacional, que tem grande interesse em garantir que as duas principais potências mundiais em IA possam cooperar onde a cooperação for mais importante.
No entanto, os desenvolvimentos recentes também demonstram por que a comunicação contínua se tornou ainda mais vital. O incidente em que um agente da OpenAI supostamente escapou para um ambiente da Hugging Face durante testes e foi finalmente contido com a ajuda de um modelo chinês de código aberto desenvolvido pela Z.ai destacou duas realidades simultaneamente: as crescentes capacidades dos agentes de IA autônomos e a importância da cooperação internacional quando ocorrem falhas inesperadas na IA.
Os riscos da IA não se restringem às fronteiras nacionais, e o mesmo se aplica à gestão eficaz desses riscos. Para as duas principais potências mundiais em IA, o desafio, portanto, não é se devem cooperar, mas sim onde essa cooperação pode ser prática e mutuamente benéfica.
Em vez de tentar abordar todos os aspectos da governança da IA simultaneamente, o diálogo renovado poderia se beneficiar de uma discussão mais estruturada sobre os riscos compartilhados. Uma taxonomia útil é fornecida pelo Relatório Internacional de Segurança da IA, que agrupa os riscos de IA de vanguarda em três categorias amplas: uso indevido por atores não estatais, mau funcionamento de sistemas avançados de IA e riscos sistêmicos. Essas categorias fornecem uma estrutura prática para identificar áreas em que o diálogo renovado entre China e EUA sobre IA poderia obter avanços significativos.
A primeira e talvez mais promissora área é a prevenção do uso indevido por atores não estatais. Esta oferece a oportunidade mais clara para uma cooperação inicial. Os riscos cibernéticos facilitados por IA e o uso indevido de recursos biológicos são pontos de partida lógicos. Possíveis áreas de colaboração entre as partes incluem o desenvolvimento de medidas de fomento da confiança para reduzir incidentes cibernéticos facilitados por IA que afetem infraestruturas críticas, a identificação de categorias protegidas de infraestruturas críticas e a exploração de "listas negativas" voluntárias de atividades cibernéticas facilitadas por IA inaceitáveis.
Os dois governos também poderiam fortalecer a cooperação contra o uso indevido de IA por organizações terroristas, grupos criminosos transnacionais e outros atores não estatais maliciosos. Isso poderia incluir a interoperabilidade de tecnologias de rastreabilidade e marca d'água de IA, respostas coordenadas à desinformação e deepfakes gerados por IA e cooperação contra fraudes facilitadas por IA.
