.webp){kind=small}
A xAI foi acusada de treinar o Grok com materiais de abuso sexual infantil (CSAM, na sigla em inglês), enquanto órgãos reguladores e tribunais continuam investigando a extensão do problema, e alguns usuários do Grok foram presos.
Em uma denúncia apresentada na quarta-feira, uma autora identificada como Jane Doe explicou que era pré-escolar no início dos anos 2000 quando homens adultos a estupraram repetidamente para criar CSAM e vendê-lo a pedófilos online. Desde então, as imagens de Doe foram criptografadas por organizações como o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC, na sigla em inglês) e o Centro Canadense para a Proteção da Criança (CCCP, na sigla em inglês).
Para sua segurança, Doe optou por receber alertas do Sistema de Notificação de Vítimas do Departamento de Justiça dos EUA sempre que suspeitar que seja vítima em uma nova investigação criminal. Embora já tenha recebido inúmeros alertas, ela ficou chocada quando o CCCP a notificou de que havia identificado CSAM gerado por IA na xAI que a retratava. Isso traumatizou novamente a vítima Doe, cuja queixa alegava que mensagens foram encontradas em fóruns online "entre criminosos conversando sobre a criação de CSAM (Abuso Sexual Infantil) gerado por IA da autora e de outras vítimas conhecidas e antigas de CSAM em situação semelhante."
