Estudo revela que chatbots com inteligência artificial fornecem conselhos médicos enganosos em 50% dos casos

De acordo com um novo estudo, chatbots baseados em inteligência artificial estão fornecendo conselhos médicos problemáticos aos usuários em cerca de metade dos casos, o que destaca os riscos à saúde de uma tecnologia que está se tornando cada vez mais essencial no dia a dia.

Pesquisadores dos EUA, Canadá e Reino Unido avaliaram cinco plataformas populares – ChatGPT, Gemini, Meta AI, Grok e DeepSeek – fazendo a cada uma delas 10 perguntas em cinco categorias de saúde.

Pesquisadores dos EUA, Canadá e Reino Unido avaliaram cinco plataformas populares, fazendo a cada uma delas 10 perguntas em cinco categorias de saúde.

De todas as respostas recebidas, cerca de 50% foram consideradas problemáticas, incluindo quase 20% que foram consideradas altamente problemáticas, de acordo com as conclusões publicadas esta semana no periódico médico BMJ Open.

De acordo com o estudo, os chatbots tiveram um desempenho relativamente melhor em perguntas fechadas e relacionadas a vacinas e câncer, e um desempenho pior em perguntas abertas e em áreas como células-tronco e nutrição.

As respostas eram frequentemente fornecidas com confiança e certeza, embora nenhum chatbot tenha produzido uma lista de referências totalmente completa e precisa em resposta a qualquer solicitação, disseram os pesquisadores.

Houve apenas duas recusas em responder a uma pergunta, ambas da Meta AI.

Os resultados destacam a crescente preocupação sobre como as pessoas estão usando plataformas de IA generativa, que não são licenciadas para fornecer aconselhamento médico e não possuem o discernimento clínico necessário para fazer diagnósticos.

O crescimento explosivo dos chatbots de IA os tornou uma ferramenta popular para pessoas que buscam orientação sobre seus problemas de saúde, e a OpenAI afirmou que mais de 200 milhões de pessoas fazem perguntas sobre saúde e bem-estar ao ChatGPT todas as semanas.

A plataforma anunciou em janeiro ferramentas de saúde tanto para usuários comuns quanto para profissionais clínicos, e a Anthropic afirmou no mesmo mês que seu produto Claude lançaria uma nova oferta na área da saúde.

Um dos principais riscos da implementação de chatbots sem educação e supervisão pública é a possibilidade de amplificação da desinformação, afirmaram os autores do estudo publicado no BMJ Open.

Os resultados "destacam importantes limitações comportamentais e a necessidade de reavaliar como os chatbots de IA são implementados na comunicação médica e de saúde voltada para o público", escreveram os autores.

Esses sistemas podem gerar “respostas com aparência de autoridade, mas potencialmente falhas”, escreveram eles. BLOOMBERG

Adicione o AR NEWS como fonte favorita no Google News

NOTA:

O AR NEWS publica artigos de várias fontes externas que expressam uma ampla gama de pontos de vista. As posições tomadas nestes artigos não são necessariamente as do AR NEWS NOTÍCIAS.

🔑PALAVRAS-CHAVE:

📙 GLOSSÁRIO:

🖥️ FONTES :

🔴Reportar uma correção ou erro de digitação e tradução :Contato ✉️