.webp){kind=small}
O CEO da Palantir, Alex Karp, declarou em um painel em 2024 que "a tecnologia deveria ser capaz de reduzir drasticamente a quantidade de danos colaterais e mortes de civis".
O ex-CEO do Google, Eric Schmidt, e o ex-diretor adjunto da CIA, David Cohen, concordaram.
Os defensores do uso da inteligência artificial nas forças armadas há muito tempo apresentam alguma versão deste argumento: que a adoção da IA pelos militares levará a uma redução dos danos a civis. O deputado Jim McGovern (democrata por Massachusetts) resumiu o argumento durante uma audiência no Congresso sobre o uso de IA nas forças armadas na quarta-feira. "Nosso governo argumenta que a IA pode melhorar as avaliações dos prováveis efeitos das operações militares e reduzir o risco de baixas civis", disse McGovern. "É esse o argumento que estamos recebendo. Quer dizer, todos concordam com isso?"
A questão deixou de ser teórica, visto que as forças armadas dos EUA já estão utilizando IA. O Pentágono atingiu 13.000 alvos apenas nos primeiros 38 dias de guerra, com o auxílio do sistema Maven Smart da Palantir para identificar alvos e escolher as armas utilizadas nos ataques.
Discordo disso”, disse Steven Feldstein, pesquisador sênior do Programa de Democracia, Conflito e Governança da Fundação Carnegie para a Paz Internacional. Embora alguns anunciem que a precisão de direcionamento em sistemas de IA chega a 90%, Feldstein afirma que o número real pode estar mais próximo de 50%.
Deborah Brown, diretora adjunta de tecnologia, direitos e investigações da Human Rights Watch, também não se convenceu com o argumento. "Seja Israel em Gaza, seja o Irã, as evidências não sugerem que isso esteja limitando os danos, devido ao alto número de civis mortos."
Parlamentares questionaram se a inteligência artificial (IA) teve algum papel no ataque de 28 de fevereiro a uma escola primária feminina em Minab, no Irã, que matou mais de 170 pessoas. Shyam Sankar, da Palantir, defendeu o uso do Maven pelas forças armadas ao ser questionado sobre o suposto envolvimento de sua empresa no ataque. "É uma tragédia para aquelas meninas, com certeza", disse Sankar. "O que eu diria é que, na história da guerra, a tecnologia sempre reduziu os danos colaterais."
Mas Feldstein explicou que "mesmo que haja mais precisão, como o número de alvos é muito maior, o número final de civis afetados provavelmente também será muito maior".
Por exemplo, as Forças de Defesa de Israel afirmam ter uma taxa de precisão de 90% com o Lavender, seu sistema de mira por IA usado em Gaza. Mas Amanda Klasing, diretora nacional de relações governamentais e advocacia da Anistia Internacional EUA, ressaltou que a precisão não importa quando a proporcionalidade é completamente ignorada, como quando uma bomba de 900 kg é lançada sobre um prédio residencial.
Os sistemas de IA também executam instruções com base em regras de engajamento determinadas por humanos, que podem ser baseadas em instruções que não priorizam a redução de danos a civis. Se um militar decide "que é aceitável que cinco civis morram para cada suspeito que for alvo de um ataque... você está dizendo à máquina o que é aceitável", disse Feldstein.
A lavanda foi usada para identificar 37.000 homens palestinos como alvos. Mas uma fonte da inteligência disse ao Guardian que eles estavam constantemente sob pressão para incluir mais alvos. "Os números mudavam o tempo todo, porque dependia de onde você definia o que era um operativo do Hamas", disse a fonte. As Forças de Defesa de Israel também aprovaram esses ataques contra alvos de baixo escalão, mesmo que isso significasse a morte de 15 a 20 civis como dano colateral.
Mesmo com defensores da ideia de que a IA criará uma abordagem mais humana para a guerra, o treinamento para redução de danos a civis tem sido drasticamente enfraquecido. O Centro de Excelência em Proteção Civil do Pentágono, criado em 2023 para treinar comandos de combate em métodos de redução de danos a civis, está reduzindo seu quadro de funcionários de 40 em janeiro de 2025 para apenas nove até o final deste ano.
Testemunhas apontaram que parte do problema é que o Pentágono não compartilhou evidências de que os sistemas de IA mitigam danos a civis. "Se for verdade que eles estão limitando os danos a civis e sendo mais precisos e eficazes, então vamos ver as evidências", disse Brown.
