.webp){kind=small}
O túmulo de Tetiana. Bubynets, morta no mês passado em um ataque de drone a um posto de gasolina em Zaporizhzhia, Ucrânia. Um pequeno drone russo, semelhante a um modelo de avião, desceu do céu no mês passado sobre a cidade de Zaporizhzhia, no sudeste da Ucrânia. Ao tentar se dirigir para um posto de gasolina, colidiu com uma parede e explodiu em uma chuva de estilhaços, matando Tetiana Bubynets, de 19 anos, estudante universitária, e outras duas pessoas.
Elas estavam entre os milhares de civis ucranianos que morreram em ataques aéreos russos, mas as circunstâncias de suas mortes apresentaram uma reviravolta sinistra. O drone que as matou era guiado por um sistema experimental de inteligência artificial, e não por um piloto humano, de acordo com especialistas em drones, comandantes militares ucranianos e a equipe forense que examinou os destroços do ataque mortal e de outros na cidade.
O drone foi programado por operadores humanos para se dirigir a um posto de gasolina específico, mas, ao se aproximar, escolheu seu alvo exato — provavelmente tanques de propano — por conta própria, com base em seu treinamento para reconhecer esses tanques e atacá-los, disseram especialistas e oficiais militares.
Trata-se de um desenvolvimento há muito observado na guerra na Ucrânia, que prenuncia um futuro distópico em que robôs assassinos patrulham os céus tomando decisões de vida ou morte que reduzem os alvos a meros pontos de dados.
"Este é um risco para o mundo todo", disse o Coronel Serhiy Minaiev, comandante da defesa aérea em Zaporizhzhia. "Em poucos anos, estaremos vivendo em um filme do ‘Exterminador do Futuro’. Não é brincadeira. Máquinas estão tomando decisões para atacar." A análise dos destroços deste e de outros ataques em Zaporizhzhia revelou que os drones possuíam minicomputadores embarcados, comercializados pela Nvidia, que tomavam as decisões de mira, disseram especialistas e oficiais militares. A Nvidia produz a maioria dos chips que alimentam os sistemas de IA mais avançados do mundo.
A presença de módulos da Nvidia e a ausência de antenas nos drones levaram os comandantes da defesa aérea ucraniana a supor que as armas eram guiadas por um sistema de IA autônomo, o que foi confirmado após investigações adicionais.
Sistemas de IA autônomos podem ser treinados com milhares de imagens para reconhecer categorias como "rio", "caminhão militar" ou "pessoa." Drones com capacidade de auto-direcionamento usam suas câmeras para buscar esses elementos com maior precisão do que um piloto humano conseguiria. No entanto, os opositores dessas armas argumentam que, sem intervenção humana, os drones podem ser mais propensos a erros ou violações das leis da guerra, como, por exemplo, não distinguir civis inocentes de combatentes.
O uso de IA com capacidade de auto-direcionamento no ataque ao posto de gasolina, em 6 de julho, seria o primeiro caso documentado em que mortes de civis foram causadas por um drone russo equipado com tal sistema, afirmou Kateryna Bondar, pesquisadora sênior do Centro de IA Wadhwani, vinculado ao Centro de Estudos Estratégicos e Internacionais em Washington. Ela acrescentou que o módulo da Nvidia "é a melhor prova" de que a Rússia estava experimentando inteligência artificial autônoma. Embora um assessor do presidente Volodymyr Zelensky tenha escrito nas redes sociais que a Rússia estava testando sistemas de IA com capacidade de auto-direcionamento, as fatalidades não haviam sido relatadas anteriormente, nem os detalhes do módulo de computador Nvidia Jetson Orin utilizado.
Tanto a Rússia quanto a Ucrânia já utilizavam IA em diversos modelos de drones antes do surgimento dos drones totalmente autônomos. Nesses modelos anteriores, a IA era usada apenas no que se conhece como "última milha" — a etapa final do ataque, após um piloto humano remoto selecionar o alvo. A IA totalmente autônoma elimina a necessidade de humanos na seleção final do alvo.
O chip da Nvidia usado no ataque em Zaporizhzhia não era criptografado, disseram autoridades ucranianas, permitindo que os pilotos visualizassem as imagens do terreno carregadas no módulo, possibilitando que o drone rastreasse pontos de referência visuais e mantivesse a rota. Eles também conseguiram examinar a programação, disseram, que revelou que tipos de alvos o drone havia sido treinado para reconhecer e atacar, como tanques de propano.
Os modelos de drones mais antigos geralmente são pilotados por operadores humanos, por meio de transmissões de rádio ou cabos de fibra óptica, ou são pré-programados com coordenadas. Com a crescente presença de drones no campo de batalha na Ucrânia, seus pilotos se tornaram alvos prioritários.
Um drone autônomo guiado por inteligência artificial, por outro lado, não requer pilotos humanos e pode ser mais preciso do que uma munição programada para atingir coordenadas.
Autoridades locais de defesa aérea afirmam que a Rússia tem como alvo objetos civis, como bombas de combustível ou tanques de propano em postos de gasolina, ao testar drones autônomos em Zaporizhzhia, além de centros de recrutamento militar. Não está claro por que esses alvos foram escolhidos para os testes.
Vadym Kushnikov, especialista em drones do Instituto de Aviação de Kharkiv, na Ucrânia, afirmou que o drone que matou os três civis era "uma ferramenta pré-programada, treinada em realidade virtual para rastrear objetos específicos." Enquanto o software tradicional segue regras passo a passo escritas por uma pessoa, um sistema de IA deriva suas próprias regras, encontrando padrões em enormes quantidades de dados, um processo chamado aprendizado de máquina. Isso permite que ela lide com situações imprevistas. Também significa que ninguém pode prever completamente o que ela poderá fazer.
Grupos de direitos humanos e a Cruz Vermelha Internacional se opõem veementemente ao uso de armas com IA sem a intervenção humana. Esses grupos afirmam que os sistemas autônomos essencialmente deixam os robôs responsáveis por interpretar o direito internacional na determinação de alvos legítimos em uma guerra.
Mas alguns especialistas argumentam que, no futuro, as armas deveriam, na verdade, ser obrigadas a ter sistemas de IA. Essas armas são mais seguras, segundo esse argumento, porque são capazes de tomar decisões antes de atingir o alvo, mesmo que nem sempre perfeitamente, ao contrário de bombas aéreas não guiadas ou projéteis de artilharia comuns que simplesmente caem sem ver o que vão atingir.
A arma do ataque fatal estava voando em um grupo de cerca de meia dúzia de drones, de acordo com o governador militar regional, o comandante da defesa aérea da cidade e uma equipe de defesa aérea de plantão naquele dia. Nenhum deles estava emitindo sinais de rádio e apresentavam outras características associadas aos testes de IA autônoma da Rússia, incluindo o lançamento em ondas, disseram as autoridades.
Embora alguns dos drones guiados por inteligência artificial testados pela Rússia tenham detonado com o impacto, outros permaneceram intactos, disseram autoridades ucranianas. Elas mostraram destroços de dois desses drones a repórteres do The New York Times. O jornal fotografou o módulo de computador da Nvidia dentro dos drones e enviou as imagens para a empresa.
