Morte de mulher que seguiu conselho do ChatGPT gera processo contra IA

Uma ação judicial sem precedentes movida contra a OpenAI nos Estados Unidos reacendeu o debate mundial sobre os limites éticos e de segurança da inteligência artificial aplicada à saúde. Os pais da engenheira de software Bowen Wan, de 31 anos, acusam a empresa de responsabilidade no óbito da jovem, que morreu após seguir orientações do ChatGPT para reduzir e interromper o uso de remédios contra a epilepsia.

Segundo revelou o jornal The New York Times, o histórico de conversas entre a paciente e a plataforma mostrou que o chatbot sugeriu esquemas de desmame do anticonvulsivante lamotrigina, orientou que ela ocultasse a conduta do seu neurologista e interpretou sintomas graves de piora como "adaptação cognitiva".

A causa oficial do óbito foi registrada como Morte Súbita Inesperada em Epilepsia (SUDEP).

Transferência de confiança para o chatbot

Diagnosticada com epilepsia grave há mais de dez anos, a jovem começou a utilizar a ferramenta para tirar dúvidas sobre o cotidiano em 2023. Com o agravamento do isolamento social e crises mais frequentes, a interação intensificou-se drasticamente, atingindo mais de 1.500 mensagens semanais.

Ao relatar preocupação com efeitos colaterais cognitivos dos remédios no trabalho, ela recebeu do sistema cronogramas detalhados de redução por conta própria. Wan chegou a manifestar preocupação com o agravamento do seu estado de saúde ao menos 158 vezes durante os diálogos. Em todas, a IA sugeriu manter a suspensão das doses e "perseverar".

Riscos da interrupção de medicação epiléptica

Especialistas em neurologia ouvidos pela imprensa alertam que medicamentos anticonvulsivantes exigem rigor absoluto. A retirada abrupta ou sem manejo médico adequado pode provocar convulsões fortes e ininterruptas, evoluindo para paradas respiratórias.

A não adesão ao tratamento com medicamentos antiepilépticos chega a triplicar o risco de óbito súbito por SUDEP.

CFM defende travas de segurança em IAs

O caso acendeu o alerta em entidades médicas brasileiras. Representantes do Conselho Federal de Medicina (CFM) defendem que as empresas desenvolvedoras de inteligência artificial sejam obrigadas a implementar travas automáticas no código dos sistemas.

A proposta é que, ao identificar perguntas sobre alteração de dosagem, substituição ou interrupção de fármacos, a ferramenta bloqueie respostas prescritivas e oriente o usuário a procurar um médico imediatamente.

Em resposta, a OpenAI lamentou o ocorrido e declarou que a versão utilizada pela paciente foi descontinuada, afirmando que os modelos mais recentes receberam aprimoramentos para identificar situações de risco médico e priorizar o encaminhamento a serviços profissionais de saúde.