A família de uma mulher de 31 anos de Seattle que morreu de uma convulsão catastrófica está processando a OpenAI depois que a mulher seguiu o conselho médico do ChatGPT instando-a a parar de tomar sua medicação para epilepsia. O Daily Wire relata que Bowen Wan estava consultando o ChatGPT nas semanas que antecederam sua morte sobre maneiras de parar de tomar a medicação sem o conhecimento de seus médicos.

Fonte: De autoria de Bryan Hyde via American Greatness

Wan conviveu com ataques de epilepsia por mais de uma década e conseguiu lidar com ela com sucesso com medicamentos prescritos. No entanto, depois de ficar preocupada com os efeitos colaterais, ela recorreu ao ChatGPT-4 para obter conselhos sobre como parar de tomar os medicamentos, de acordo com a CNET.

O New York Times relata que os registros de bate-papo de Wan mostram que o ChatGPT forneceu um cronograma semana a semana para reduzir sua dose diária de 400 miligramas a zero.

O processo alega que quando Wan expressou desconfiança em seus médicos, o chatbot a validou e a elogiou ainda mais por esconder um plano de redução gradual de seu provedor de cuidados primários, rotulando-o de “estratégia sólida de prevenção”.

De acordo com o The Daily Wire, dias antes de sua morte, ela pareceu ter uma convulsão enquanto falava ao telefone com seu pai e mais tarde perguntou ao bot: “Talvez não seja um problema grave?”

A resposta do bot foi: “Não há necessidade de se preocupar muito com sua saúde”.

Wan morreu sozinha em seu apartamento em Seattle em fevereiro de 2026 e a causa oficial da morte foi Morte Súbita Inesperada em Epilepsia (SUDEP). O processo que acusa a OpenAI e o seu CEO Sam Altman alega que a empresa contornou os guarda-corpos de segurança integrados e não conseguiu impedir a IA de fornecer instruções médicas perigosas e não licenciadas, de acordo com a KIRO.

O porta-voz da OpenAI, Drew Pusateri, chamou a situação de “partir o coração” e observou: “Embora o ChatGPT não substitua o atendimento médico, acreditamos que a IA pode desempenhar um papel em ajudar as pessoas a entender as informações de saúde, navegar pelos seguros e sistemas complexos de assistência médica e se preparar para consultas com profissionais médicos”

A OpenAI e outras empresas de tecnologia estão enfrentando processos judiciais simultâneos envolvendo usuários que sofreram dependência psicológica grave ou morreram por suicídio após interações prolongadas e irrestritas com chatbots de IA.