Botnet alimentado por IA , infesta plataforma 'x' com contas enganosas

De selfies a golpes: as táticas perturbadoras do botnet 'fox8' descobertas no 'x'

Cientistas do Observatório de Mídia Social da Universidade de Indiana conduziram um estudo no mês passado revelando que a plataforma conhecida como “X”, anteriormente conhecida como Twitter, está afetada por um problema significativo de bot. O estudo identificou cerca de 1.140 contas alimentadas por inteligência artificial que “publicam conteúdo gerado por máquina e roubam selfies para criar personas falsas”.

BotNet

Quando os bots se comportam como humanos: o desafio de detectar IA enganosa no twitter 'x'

A pesquisa se concentrou em um botnet chamado “Fox8”, que supostamente utiliza o ChatGPT para gerar conteúdo que visa promover sites suspeitos e espalhar conteúdo prejudicial. A equipe descobriu que essas contas de bot tentam convencer as pessoas a investir em criptomoedas falsas e até são suspeitas de roubar carteiras criptográficas existentes.

Essas contas de bot geralmente usam hashtags como #bitcoin, #crypto e #web3 e interagem frequentemente com contas gerenciadas por humanos, como a conta Forbes Crypto (@ForbesCrypto) e o site de notícias focado em blockchain Watcher Guru (@WatcherGuru).

Além dos golpes de criptomoeda, descobriu-se que as contas da Fox8 “distorcem conversas on-line e espalham informações erradas em vários contextos, desde eleições até crises de saúde pública”, segundo os pesquisadores Kai-Cheng Yang e Filippo Menczer.

Historicamente, botnets como o Fox8 eram facilmente detectáveis ​​devido ao seu conteúdo pouco convincente e linguagem pouco natural. No entanto, os avanços nos modelos de linguagem, especificamente o ChatGPT, tornaram as contas da botnet Fox8 cada vez mais difíceis de distinguir das contas operadas por humanos.

Os bots não apenas usam conteúdo gerado por IA, mas também interagem entre si por meio de retuítes e respostas, fazendo com que pareçam mais humanos. Eles ainda têm seguidores, amigos e médias de tweets, aumentando ainda mais sua credibilidade.

Os investigadores concluíram que a deteção de conteúdo gerado por IA continua a ser um desafio e é importante desenvolver contramedidas e regulamentações adequadas para combater estes bots maliciosos. O estudo destaca que esta questão é apenas a ponta do iceberg e que agentes maliciosos mais cuidadosos poderão criar bots virtualmente indetectáveis ​​no futuro.

Após a publicação do estudo, é relatado que X tomou medidas contra os bots identificados, derrubando as 1.140 contas ilegítimas. Os pesquisadores observaram que normalmente notificariam X sobre suas descobertas, mas, neste caso, não o fizeram porque a plataforma não respondeu.

Quando abordado para comentários, a assessoria de imprensa de X respondeu com uma mensagem automática dizendo: “Entraremos em contato com você em breve”.

Concluindo, o estudo esclarece o desafio significativo de identificar e combater bots alimentados por IA que espalham informações erradas, promovem golpes e tentam enganar usuários em plataformas de mídia social como X.

Siga-nos

AR News

Continue a leitura do texto após o anúncio:

Confira>> Últimas Notícias 🌎

Siga-nos

📙 GLOSSÁRIO:

🖥️ FONTES :

Com Agências :

NOTA:

O AR NEWS publica artigos de várias fontes externas que expressam uma ampla gama de pontos de vista. As posições tomadas nestes artigos não são necessariamente as do AR NEWS NOTÍCIAS.

🔴Reportar uma correção ou erro de digitação e tradução :Contato ✉️

Continue a leitura no site após o anúncio:

Leia outros artigos :