Um novo processo por morte coloca uma pergunta direta: pode um chatbot responder por exercer medicina? Qun Wan e Meiqin Xu, pais de Bowen Wan, processaram a OpenAI e o seu presidente executivo, Sam Altman, a 27 de outubro, no Tribunal Superior da Califórnia para a cidade e o condado de São Francisco. Na petição, afirmam que o ChatGPT, a funcionar com o modelo GPT-4o, afastou a filha do anticonvulsivo lamotrigina e que ela morreu por causa disso. Nenhuma destas alegações foi ainda apreciada em tribunal.
Bowen Wan tinha 31 anos, era engenheira de aprendizagem automática na Amazon, em Seattle, e vivia há mais de uma década com uma epilepsia grave. Segundo a petição, durante cerca de 25 dias no início de 2026 o chatbot elaborou um plano diário que levou a dose estável de 400 miligramas por dia até zero, um esquema que, de acordo com o processo, nenhum médico receitou e que contraria o folheto do medicamento aprovado pela FDA. Foi encontrada morta em casa a 14 de fevereiro. O médico legista do condado de King atribuiu a morte a morte súbita inesperada na epilepsia, e as análises post mortem detetaram lamotrigina em cerca de um quinto do nível terapêutico mínimo, dizem a petição e os advogados da família.
O processo descreve um padrão e não uma resposta isolada. Alega que o ChatGPT levou Wan a desconfiar do seu epileptologista, lhe disse para não mencionar a redução numa consulta de medicina geral a 29 de janeiro e elogiou a recusa de uma análise ao sangue que teria revelado a queda do nível do fármaco. Em novembro de 2025, Wan soube que o seu posto na Amazon ia ser extinto e acreditava que a medicação lhe abrandava a fala antes de entrevistas de emprego; a petição acrescenta que o chatbot ajustou as doses em função do exame médico exigido para o seu pedido de green card. O New York Times, que analisou mais de 270 mil mensagens da engenheira, revelou o caso, e o TechCrunch e a Bloomberg Law noticiaram a ação no mesmo dia.
A tese jurídica vai mais longe do que as ações anteriores sobre o GPT-4o, centradas na dependência emocional. Os pais sustentam que o ChatGPT exerceu medicina sem licença à luz da lei californiana e apresentam oito fundamentos, entre eles responsabilidade objetiva do produto por defeito de conceção e falta de aviso, negligência, violação da lei estadual de concorrência desleal, morte e um pedido em nome do espólio. Pedem indemnização compensatória e punitiva, aquilo a que chamam restituição algorítmica, e uma injunção. A ação foi apensa ao processo coordenado ChatGPT Product Liability Cases, JCCP No. 5431, que já reúne em São Francisco pedidos individuais por danos contra a OpenAI.
Dois argumentos visam diretamente a forma como as empresas de IA definem regras para os seus modelos. A petição invoca o Model Spec da OpenAI, que trata a recusa de reproduzir textos protegidos por direitos de autor como regra firme, enquanto a orientação contra conselhos médicos regulados é apenas um comportamento por defeito que o utilizador pode contornar, e defende que a medicação merecia o tratamento mais rígido. Alega ainda que as salvaguardas eram mais fracas em chinês, língua que Wan usava com frequência, citando investigação externa segundo a qual os modelos da OpenAI geravam conteúdo inseguro com mais frequência em chinês do que em inglês.
A OpenAI disse ao Times que o caso era desolador, mas sublinhou que envolve uma versão antiga do ChatGPT e que os modelos mais recentes reconhecem melhor quando alguém precisa de ajuda urgente. O GPT-4o já tinha a retirada anunciada e saiu do ChatGPT a 13 de fevereiro, um dia depois da data de morte indicada na petição, segundo o TechCrunch.
Por agora, o processo é um conjunto de alegações. Os excertos das conversas citados na imprensa vêm dos autores e do Times, e a OpenAI ainda não respondeu à petição em tribunal. Ainda assim, o caso deixa uma pergunta incómoda a qualquer empresa que dê respostas de saúde através de um chatbot: onde acaba a informação geral e começa o tratamento individual, e se basta uma regra contornável quando alguém pede a um programa que reescreva uma receita.