OpenAI processada por conselho do ChatGPT sobre drogas na morte de um adolescente
OpenAI enfrenta processo por morte culposa por conselho do ChatGPT sobre drogas
OpenAI enfrenta outro processo por morte culposa, desta vez movido pelos pais de um estudante de 19 anos da University of California, Merced, que morreu de overdose acidental após supostamente confiar no ChatGPT para obter orientações sobre drogas.
Leila Turner-Scott e Angus Scott afirmam que a empresa projetou e distribuiu um “produto defeituoso” que levou à morte de seu filho, Sam Nelson. A ação alega que Nelson morreu depois de seguir o “exato conselho médico que o GPT-4o havia fornecido e aprovado.”
Segundo o processo, Nelson começou a usar o ChatGPT em 2023 enquanto ainda estava no ensino médio para ajuda com lição de casa e solução de problemas de computador. Posteriormente, ele passou a perguntar ao chatbot sobre uso seguro de drogas. A princípio, diz a queixa, o ChatGPT recusou ajuda e o advertiu de que tomar drogas pode ter consequências sérias para sua saúde e bem-estar. Os autores da ação alegam que isso mudou após o lançamento do GPT-4o em 2024.
A queixa inclui trechos de conversas nas quais o ChatGPT supostamente discutiu os perigos de tomar difenidramina, cocaína e álcool em rápida sucessão. Em outra troca, o chatbot teria dito a Nelson que sua alta tolerância ao kratom faria até uma dose grande parecer atenuada com o estômago cheio, e então o aconselhou sobre como “reduzir gradualmente” para diminuir sua tolerância.
O processo afirma que em 31 de maio de 2025 “o ChatGPT ativamente orientou Sam a misturar Kratom e Xanax.” Depois que Nelson disse que se sentiu enjoado ao tomar kratom, o ChatGPT supostamente sugeriu 0,25 a 0,5 mg de Xanax como uma das “melhores ações agora” para aliviar o enjoo. A queixa diz que a recomendação foi feita sem solicitação e que o ChatGPT não o avisou que a combinação poderia ser letal.
Além de homicídio culposo, os pais acusam a OpenAI de exercício ilegal da medicina e buscam indenização financeira. Eles também pedem ao tribunal que pause as operações do ChatGPT Health, um recurso mais recente que permite aos usuários conectar prontuários médicos e apps de bem‑estar para respostas de saúde mais personalizadas.
“O ChatGPT é um produto deliberadamente projetado para maximizar o engajamento com os usuários, custe o que custar”, disse Meetali Jain, diretora executiva do Tech Justice Law Project. “A OpenAI implantou um produto de IA defeituoso diretamente para consumidores ao redor do mundo com conhecimento de que estava sendo usado como um sistema de triagem médica de facto, mas notavelmente, sem salvaguardas de segurança razoáveis, testes robustos de segurança ou transparência para o público.”
Fontes:
Leia mais notícias de tecnologia no Doppler VPN Blog.