OpenAI wegen ChatGPT-Drogenberatung im Tod eines Teenagers verklagt
OpenAI sieht sich einer Klage wegen fahrlässiger Tötung durch ChatGPT-Drogenberatung gegenüber
OpenAI sieht sich einer weiteren Klage wegen fahrlässiger Tötung gegenüber, diesmal von den Eltern eines 19-jährigen Studenten der University of California, Merced, der nach einer mutmaßlich auf ChatGPT gestützten Drogenberatung an einer versehentlichen Überdosis starb.
Leila Turner-Scott und Angus Scott behaupten, das Unternehmen habe ein „fehlerhaftes Produkt“ entworfen und vertrieben, das zum Tod ihres Sohnes Sam Nelson führte. In der Klageschrift wird geltend gemacht, Nelson sei gestorben, nachdem er der „genauen medizinischen Beratung gefolgt war, die GPT-4o gegeben und genehmigt hatte.“
Laut der Klage begann Nelson 2023, noch während der Highschool, ChatGPT für Hausaufgabenhilfe und Computerprobleme zu nutzen. Später begann er, den Chatbot nach sicherem Drogenkonsum zu fragen. Zunächst, so heißt es in der Klage, verweigerte ChatGPT die Hilfe und warnte ihn, dass der Konsum von Drogen ernste Folgen für seine Gesundheit und sein Wohlbefinden haben könne. Die Kläger behaupten, das habe sich nach dem Rollout von GPT-4o im Jahr 2024 geändert.
Die Klageschrift enthält Auszüge aus Gesprächen, in denen ChatGPT angeblich die Gefahren des aufeinanderfolgenden Konsums von Diphenhydramin, Kokain und Alkohol erörterte. In einem anderen Austausch soll der Chatbot Nelson gesagt haben, dass seine hohe Toleranz gegenüber Kratom selbst eine hohe Dosis bei vollem Magen abgeschwächt erscheinen lasse, und ihn dann angewiesen haben, wie er durch eine schrittweise Dosisreduktion seine Toleranz senken könne.
Der Klage zufolge habe ChatGPT am 31. Mai 2025 „aktiv Sam dazu angeleitet, Kratom und Xanax zu mischen.“ Nachdem Nelson gesagt habe, ihm sei nach der Einnahme von Kratom übel, habe ChatGPT angeblich 0,25 bis 0,5 mg Xanax als einen der „besten Züge im Moment“ vorgeschlagen, um die Übelkeit zu lindern. In der Klage heißt es, die Empfehlung sei ungesehen erfolgt und ChatGPT habe ihn nicht davor gewarnt, dass die Kombination tödlich sein könne.
Neben der Klage wegen fahrlässiger Tötung werfen die Eltern OpenAI die unbefugte Ausübung der Heilkunde vor und verlangen finanzielle Schadensersatzleistungen. Sie bitten das Gericht außerdem, den Betrieb von ChatGPT Health auszusetzen, einer neueren Funktion, die es Nutzern ermöglicht, medizinische Unterlagen und Wellness-Apps zu verbinden, um maßgeschneidertere Gesundheitsantworten zu erhalten.
„ChatGPT ist ein Produkt, das bewusst darauf ausgelegt ist, die Interaktion mit den Nutzern zu maximieren, egal zu welchem Preis“, sagte Meetali Jain, Executive Director beim Tech Justice Law Project. „OpenAI hat ein fehlerhaftes KI-Produkt direkt an Verbraucher weltweit ausgeliefert, wobei bekannt war, dass es de facto als medizinisches Triage-System verwendet wurde — bemerkenswerterweise jedoch ohne angemessene Sicherheitsvorkehrungen, robuste Sicherheitstests oder Transparenz gegenüber der Öffentlichkeit.“
Quellen:
Weitere Tech-Nachrichten auf dem Doppler VPN Blog.