.webp){kind=small}
A Anthropic afirma ter identificado e interrompido tentativas de usar seu modelo de IA para "atividades maliciosas" que poderiam apoiar o desenvolvimento de armas biológicas.
As conclusões, apresentadas no recente relatório de inteligência de ameaças da empresa, são as mais recentes de uma crescente série de alertas de pesquisadores de IA e especialistas do setor sobre os potenciais riscos da tecnologia para a humanidade.
Os alertas suscitaram apelos à ação, com o senador americano Bernie Sanders exigindo uma pausa no desenvolvimento de IA avançada e a proibição da superinteligência artificial.
Se não vencermos a IA, ficaremos em uma situação muito ruim”.
A empresa publicou seu relatório mais recente de inteligência de ameaças, externo, na quinta-feira.
Esses relatórios se tornaram comuns no setor de IA, à medida que as empresas buscam demonstrar como identificam e interrompem tentativas de uso indevido de seus modelos.
Isso inclui o Google, que escreveu na terça-feira, em um comunicado externo, que uma pessoa tentou usar sua ferramenta de IA, Gemini, para obter um "guia técnico completo, passo a passo, para sintetizar agentes biológicos como armas".
Segundo o relatório, o modelo de IA da Claude, Anthropic, também foi usado por agentes ligados a uma campanha de ciberespionagem com base na Rússia e por uma instituição de propaganda iraniana.
Os casos preocupantes detectados nos últimos oito meses variaram desde aplicativos de namoro falsos e golpes com Wi-Fi de hotéis até sistemas de vigilância criados para identificar dissidentes.
A Anthropic também acusou empresas chinesas de IA de tentarem replicar as capacidades de Claude.
O extenso relatório lista casos em que grupos suspeitos de serem patrocinados pelo Estado, criminosos, fornecedores de spyware, instituições de propaganda estatal e indivíduos com motivações políticas fizeram uso indevido de sua tecnologia.
A empresa afirmou que o "uso malicioso" de seus modelos Claude Haiku, Sonnet e Opus foi interrompido entre dezembro de 2025 e agosto de 2026.
Nenhum dos casos de uso indevido envolveu Claude Fable ou os poderosos modelos da classe Mythos, com exceção de um caso de destilação – o processo de treinamento de modelos de IA menores usando modelos maiores e mais caros.
Além de detectar o uso de seus modelos para operações cibernéticas e de influência, vigilância, golpes e fraudes e desenvolvimento de armas, a Anthropic afirmou ter bloqueado cientistas que usaram sua IA de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.
O relatório destacou "cinco estudos de caso de atores que utilizam nossos modelos de maneiras que poderiam apoiar o desenvolvimento de armas biológicas".
Sem as devidas salvaguardas, tais capacidades "poderiam ter consequências catastróficas", afirmou a Anthropic.
As mesmas informações que podem ser usadas para desenvolver uma arma biológica também poderiam ser usadas para desenvolver, por exemplo, uma vacina ou uma cura para uma doença”, disse Anthropic.
Jacob Klein, chefe de inteligência de ameaças da Anthropic, disse ao New York Times, externamente, que era "uma situação incrivelmente complexa".
Você não está vendo alguém, como nos quadrinhos, dizendo: 'Ei, eu quero construir uma arma biológica para matar todo mundo'”, disse ele.
O relatório também mencionou seis casos em que Claude foi usado "para desenvolver software para armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e outras munições, bem como os sistemas de mira e controle que as operam".
Pesquisadores de ciências antropológicas acreditam que há mais de 10% de chance de a inteligência artificial "matar toda a humanidade".
O relatório indica que cibercriminosos e hackers patrocinados por governos têm usado cada vez mais essa tecnologia para auxiliar suas operações.
O grupo de hackers ShinyHunters, assim como laboratórios sediados na China, estavam entre os nomes citados no relatório.
O relatório também afirmou que um grupo de hackers, cujo trabalho é consistente com o do grupo russo Midnight Blizzard, supostamente usou inteligência artificial para construir um sistema que detectava automaticamente quando seu malware era sinalizado pelas defesas de segurança e reescrevia o código até conseguir burlar a detecção.
A empresa sediada na Califórnia afirmou ter incorporado as descobertas em seus processos "para melhor prevenir, detectar e interromper essas atividades no futuro".
A Anthropic afirmou ter compartilhado informações com as autoridades e parceiros do setor, quando apropriado.
O relatório – o primeiro da empresa este ano – surge depois de um dos principais investigadores de segurança da Anthropic ter alertado que a IA está avançando tão rapidamente que acredita haver uma probabilidade superior a 10% de que "possa matar todos os humanos" na próxima década.
Em um artigo publicado em 6 de setembro, o cientista-chefe da OpenAI, Jakub Pachocki, pediu que a indústria implementasse "desacelerações voluntárias" até que medidas de segurança sejam estabelecidas.
Preocupa-me que ninguém esteja preparado para as consequências de um crescimento rápido e contínuo da inteligência artificial”, disse Pachocki, acrescentando que a OpenAI, criadora do ChatGPT, continuará seu trabalho na construção de mecanismos de proteção, embora sejam necessárias intervenções mais abrangentes.
O alerta motivou uma carta aberta ao primeiro-ministro britânico, Andy Burnham, pedindo um novo tratado multinacional para o desenvolvimento seguro da IA e um apelo para que os governos colaborem sobre como deveria ser um tratado baseado no desenvolvimento da superinteligência.
