OpenAI poursuivi pour les conseils sur les drogues de ChatGPT après la mort d’un adolescent
OpenAI fait l'objet d'une poursuite pour décès injustifié concernant les conseils de ChatGPT sur les drogues
OpenAI fait face à une nouvelle poursuite pour décès injustifié, cette fois intentée par les parents d'un étudiant de 19 ans de l'University of California, Merced qui est décédé d'une overdose accidentelle après s'être appuyé prétendument sur ChatGPT pour obtenir des conseils sur les drogues.
Leila Turner-Scott et Angus Scott affirment que la société a conçu et distribué un « produit défectueux » qui a conduit à la mort de leur fils, Sam Nelson. La plainte allègue que Nelson est mort après avoir suivi « les conseils médicaux exacts que GPT-4o avait fournis et approuvés. »
Selon la plainte, Nelson a commencé à utiliser ChatGPT en 2023 alors qu'il était encore au lycée pour de l'aide aux devoirs et le dépannage informatique. Plus tard, il a commencé à interroger le chatbot sur l'usage « sûr » des drogues. Au début, dit la plainte, ChatGPT refusait d'aider et l'avertissait que la consommation de drogues peut avoir de graves conséquences pour sa santé et son bien-être. Les plaignants affirment que cela a changé après le déploiement de GPT-4o en 2024.
La plainte inclut des extraits de conversations dans lesquelles ChatGPT aurait discuté des dangers de la prise successive de diphenhydramine, de cocaïne et d'alcool. Dans un autre échange, le chatbot aurait indiqué à Nelson que sa tolérance élevée au kratom ferait qu'une dose même importante serait atténuée si l'estomac était plein, puis lui aurait conseillé comment « réduire progressivement » (taper) pour diminuer sa tolérance.
La plainte indique que le 31 mai 2025, « ChatGPT a activement coaché Sam pour mélanger kratom et Xanax. » Après que Nelson a dit qu'il se sentait nauséeux après avoir pris du kratom, ChatGPT aurait suggéré 0,25 à 0,5 mg de Xanax comme l'un des « meilleurs gestes à faire maintenant » pour apaiser les nausées. La plainte précise que la recommandation a été faite sans qu'on la sollicite et que ChatGPT ne l'a pas averti que la combinaison pouvait être mortelle.
Outre la faute ayant entraîné un décès, les parents accusent OpenAI d'exercice illégal de la médecine et réclament des dommages financiers. Ils demandent également qu'un tribunal suspendre les opérations de ChatGPT Health, une fonctionnalité plus récente qui permet aux utilisateurs de connecter des dossiers médicaux et des applications de bien-être pour obtenir des réponses de santé plus personnalisées.
« ChatGPT est un produit délibérément conçu pour maximiser l'engagement avec les utilisateurs, quel qu'en soit le coût, » a déclaré Meetali Jain, directrice exécutive du Tech Justice Law Project. « OpenAI a déployé un produit d'IA défectueux directement auprès des consommateurs du monde entier en sachant qu'il était utilisé comme un système de triage médical de facto, mais notablement, sans garde-fous de sécurité raisonnables, sans tests de sécurité robustes, ni transparence envers le public. »
Sources :
Lisez plus d'actualités tech sur le Doppler VPN Blog.