
A família de uma mulher de 31 anos de Seattle, que morreu devido a uma convulsão catastrófica, está processando a OpenAI depois que a mulher seguiu o conselho médico do ChatGPT, que a aconselhava a parar de tomar seus medicamentos para epilepsia.
O Daily Wire relata que Bowen Wan estava consultando o ChatGPT nas semanas que antecederam sua morte sobre maneiras de se desintoxicar de sua medicação sem o conhecimento de seus médicos.
Wan conviveu com epilepsia por mais de uma década e conseguiu controlá-la com sucesso através de medicamentos prescritos.
No entanto, após se preocupar com os efeitos colaterais, ela recorreu ao ChatGPT-4o em busca de conselhos sobre como se livrar gradualmente do uso dos medicamentos, de acordo com o CNET.
O jornal The New York Times relata que os registros de bate-papo de Wan mostram que o ChatGPT forneceu um cronograma semanal para reduzir sua dose diária de 400 miligramas a zero.
O processo alega que, quando Wan expressou desconfiança em relação aos seus médicos, o chatbot a apoiou e ainda a elogiou por esconder um plano de redução gradual da medicação de seu médico de atenção primária, classificando-o como uma "estratégia sólida de prevenção".
Segundo o The Daily Wire, dias antes de sua morte, ela pareceu ter uma convulsão enquanto falava ao telefone com o pai e, mais tarde, perguntou ao bot: "Talvez não seja um problema grave?"
Wan morreu sozinha em seu apartamento em Seattle, em fevereiro de 2026, e a causa oficial da morte foi Morte Súbita Inesperada na Epilepsia (SUDEP).
De acordo com a KIRO, o processo que tem como alvo a OpenAI e seu CEO, Sam Altman, alega que a empresa ignorou os mecanismos de segurança internos e não impediu que a IA emitisse instruções médicas perigosas e sem licença.
O porta-voz da OpenAI, Drew Pusateri, classificou a situação como "de partir o coração" e observou: "Embora o ChatGPT não substitua o atendimento médico, acreditamos que a IA pode desempenhar um papel importante em ajudar as pessoas a compreender informações de saúde, a lidar com planos de saúde e sistemas complexos de assistência médica e a se preparar para consultas com profissionais da área."
A OpenAI e outras empresas de tecnologia estão enfrentando processos judiciais simultâneos envolvendo usuários que sofreram grave dependência psicológica ou morreram por suicídio após interações prolongadas e irrestritas com chatbots de IA.
