.webp){kind=small}
Ativistas se mobilizam para conter sistemas projetados para matar, já que armas autônomas reduzem o limiar para a guerra e aumentam os danos a civis.
Ao longo da história da guerra, a máquina de matar sempre deixou espaço para a intervenção humana.
Um soldado poderia ver a pessoa à sua frente e optar por mutilar em vez de matar; um piloto poderia identificar o alvo, questionar as informações de inteligência e decidir não atacar.
A tecnologia tem mudado isso de forma constante. Os sistemas de armas autônomas agora ameaçam eliminar qualquer controle humano significativo sobre o uso da força em conflitos.
A tecnologia de direcionamento assistido por IA foi usada pela primeira vez por Israel em sua guerra genocida contra Gaza e, posteriormente, no Irã, com ataques ocorrendo em uma velocidade sem precedentes – mais de 1.000 impactos nas primeiras 24 horas da guerra entre EUA e Israel, o que sugere o uso de sistemas automatizados.
Há mais de 13 anos, a coalizão global Stop Killer Robots luta para evitar esse futuro, pressionando governos a proibirem máquinas capazes de selecionar e atacar alvos sem supervisão.
Os sistemas são projetados para matar, então não há mais mecanismos de controle", disse a diretora executiva Nicole van Rooijen ao Middle East Eye.
Se um sistema for projetado para matar, ele matará, certo? E isso em si já é problemático, pois depende muito do tipo de informação que é inserida na máquina."
Van Rooijen citou como exemplo o ataque aéreo dos EUA à Escola Primária Shajareh Tayyebeh, na cidade iraniana de Minab, em 28 de fevereiro, no qual 156 pessoas, incluindo 120 crianças, foram mortas.
As evidências indicam que as forças americanas atingiram o prédio, localizado ao lado de um complexo da Guarda Revolucionária Islâmica (IRGC). Até hoje, esse ataque é o mais letal de toda a guerra entre Estados Unidos e Israel contra o Irã.
Imprecisão que mata
Informações preliminares indicam que se trata de um ataque dos EUA, mas também que é resultado de informações desatualizadas inseridas no sistema", disse Van Roijen.
Se a informação não for totalmente precisa ou estiver desatualizada, as consequências no terreno serão devastadoras, muito provavelmente para civis inocentes.
São falsas promessas de maior exatidão e precisão, quando os resultados são piores, não para os militares, mas para os civis no terreno."
Isso é especialmente verdadeiro em um ambiente volátil, quando você está conduzindo hostilidades, mas não tem tropas em campo para confirmar qual alvo a máquina pretende atingir."
Outro problema importante é a precisão. Especialistas que trabalham com IA e sua integração na cadeia de destruição militar estimaram a confiabilidade entre 25 e 50 por cento, explicou Van Rooijen.
E esse é o melhor cenário possível", acrescentou ela. "A analogia é um bombardeio indiscriminado".
A organização Stop Killer Robots também alertou que os sistemas de armas autônomas reduzem drasticamente o limiar para a guerra, já que não exigem o envio de uma força militar.
Ninguém quer ver seus soldados morrerem em terras estrangeiras, então é preciso ter cautela. Você pensa duas vezes antes de enviar seus próprios homens", disse Van Rooijen.
Se tudo for automatizado, basta enviar máquinas. Israel e os EUA vêm ameaçando o Irã há décadas, mas nunca concretizaram as ameaças, e não acho que seja coincidência… isso dá uma falsa sensação de que é possível fazer tudo rapidamente… e sair vitorioso."
Mas são falsas promessas de maior exatidão e precisão, quando os resultados são piores, não para os militares, mas para os civis no terreno. São eles que sofrem as consequências."
Sem guarda-corpo
Atualmente, não existe uma definição comum e consensual do que seja um sistema autônomo.
Não existe nenhum tratado que regule como essas tecnologias estão sendo desenvolvidas, testadas, vendidas ou implantadas, criando as condições para uma corrida armamentista desenfreada em que as gigantes da tecnologia lucram "com a miséria das pessoas", disse Van Roijen.
Ela considera a ausência de proteções particularmente difícil de aceitar.
Um sistema de armas autônomo é uma máquina, e uma máquina não pode realmente compreender o valor de uma vida humana."
Existem mais mecanismos de proteção em vigor se você testar um novo avião ou um novo carro do que ao integrar IA na cadeia de destruição", observou ela.
Olhando para a história, existe um precedente para a interrupção do uso de uma arma antes que os governos não consigam mais imaginar a guerra sem ela.
Entre os que fazem campanha por um tratado que regule os sistemas de armas autônomas está Bonnie Docherty, consultora sênior em armamentos da Human Rights Watch (HRW), que teve um papel central nas negociações que eventualmente levaram à Convenção de 2008 sobre Munições de Fragmentação, que proibiu seu uso.
Ela disse ao Middle East Eye que a luta em torno dos sistemas de armas autônomas segue os mesmos princípios do desarmamento humanitário, buscando prevenir o sofrimento humano causado pelas armas.
Para Docherty, reduzir indivíduos a números e "delegar decisões de vida ou morte" a máquinas é uma "grande preocupação".
Um sistema de armas autônomo é uma máquina, e uma máquina não consegue realmente compreender o valor de uma vida humana", explicou ela.
Dar a essa máquina o poder de matar... é eticamente inapropriado. Quem tira uma vida deve ser capaz de compreender o significado disso".
As evidências reunidas pela HRW mostram ainda que os sistemas podem reproduzir ou amplificar os vieses algorítmicos, o que pode ser letal.
Analisamos a questão da discriminação, em particular as questões de raça, gênero e deficiência", disse ela. "Por exemplo, no que diz respeito à deficiência, a inteligência artificial pode ter dificuldade em distinguir uma bengala de uma arma".
No entanto, países como os EUA, Israel, Rússia e China relutam em abrir mão de armas que poderiam lhes dar vantagem, um argumento batido que Docherty conhece muito bem. Por trás disso, há também uma indústria tecnológica que oferece seus próprios incentivos comerciais.
Ela já tinha ouvido isso antes, nas negociações sobre o tratado de munições de fragmentação. Os governos estavam gananciosos em manter as tecnologias que estavam desenvolvendo, argumentando que o direito internacional humanitário existente era suficiente.
O que foi a gota d. água na época, como disse Doherty, foi o uso indiscriminado de munições de fragmentação por Israel no sul do Líbano em 2006. Muitas dessas submunições permanecem espalhadas pelo território até hoje, resultando em centenas de mortes e feridos.
Em muitos desses casos, bastaria usar o mesmo sistema de armas."
Na semana passada, o secretário-geral das Nações Unidas e o presidente do Comitê Internacional da Cruz Vermelha (CICV) renovaram seu apelo por um tratado que regule os sistemas de armas autônomas.
Três anos antes, eles haviam instado os Estados a estabelecerem regras até 2026. Agora que o prazo se tornou "insustentável", alertaram que o mundo está se aproximando rapidamente de uma "linha vermelha moral".
O apelo renovado surge também em um momento em que o CICV suspeita que formas cada vez mais sofisticadas de autonomia estão a ser integradas em sistemas de armas em diversos conflitos, não só em operações defensivas, mas também ofensivas, inclusive em áreas povoadas.
Embora seja muito difícil para nós verificarmos... estamos vendo essa crescente integração da autonomia em armas em muitos conflitos, desde sofisticadas capacidades militares até sistemas comerciais prontos para uso que estão sendo adaptados."
‘Um grande risco’
O que a organização insiste é que ainda há esperança na forma de uma via diplomática para negociar as regras em torno dos sistemas.
Em novembro, os Estados se reunirão em Genebra para a Sétima Conferência de Revisão da Convenção sobre Certas Armas Convencionais (CCW), que ocorre a cada cinco anos.
É provável que também seja utilizado por atores não estatais que não se enquadram nesses mecanismos de investigação mais regulamentados."
Este pode ser um momento decisivo para a campanha, visto que o Grupo de Peritos Governamentais em Sistemas de Armas Autônomas Letais, o principal fórum intergovernamental da ONU que trata de tecnologias emergentes relacionadas a armas autônomas, vem elaborando um projeto de texto que inclui proibições para alguns sistemas e restrições para outros.
A sessão final do grupo acontece esta semana, e o trabalho desenvolvido nela servirá de base para a próxima conferência.
Os ativistas esperam que isso possa se transformar em negociações formais para um tratado juridicamente vinculativo – finalmente.
Não seria preciso muito agora para transformar isso em um instrumento vinculativo", disse Hinds. "Em novembro, a decisão de avançar para as negociações formais precisa ser tomada."
Grupos de direitos humanos pedem a suspensão do uso de inteligência artificial nas forças armadas. Adiar discussões que já duram quase 13 anos no grupo de especialistas do governo é inaceitável. Só nos resta uma opção em novembro.
Se os Estados chegarem a um acordo, um tratado poderá ser firmado em poucos meses. O caminho preferencial — e mais curto — seria negociar com maestria um protocolo adicional no âmbito da Convenção sobre Armas Convencionais (CCW).
No entanto, especialistas como Hinds duvidam da viabilidade disso. Ela afirmou que a conferência não oferece uma conclusão simples de sim ou não, e que existem diversas maneiras de prosseguir com a campanha.
O objetivo geral é antecipar-se à tecnologia, acrescentou ela, alertando que, à medida que as armas autônomas se disseminam, torna-se mais fácil para qualquer pessoa – até mesmo grupos armados fora de qualquer supervisão legal – transformar tecnologia comercial barata em armas autônomas mortais.
Quanto mais oportunidades esses sistemas tiverem para proliferar, mais fácil se tornará adaptar um sistema disponível comercialmente... também é provável que ele seja usado por atores não estatais que não se enquadram nesses mecanismos de investigação mais regulamentados", disse Hinds.
Todas essas coisas aumentam ainda mais minhas preocupações com a responsabilidade. Então, sim, acho que é um grande risco."
