チャットGPTの薬物助言が原因とされる10代の死亡でオープンエーアイが訴えられる
チャットGPTの薬物助言をめぐりオープンエーアイが不法死亡訴訟に直面
オープンエーアイは別の不法死亡訴訟に直面しており、今回はカリフォルニア大学マーセド校の19歳の学生がチャットGPTの薬物に関する助言に頼った後に誤って過剰摂取で死亡したとして、両親が提訴しています。
レイラ・ターナー＝スコットとアンガス・スコットは、同社が息子サム・ネルソンの死につながった「欠陥製品」を設計・配布したと主張しています。訴状は、ネルソンが「GPT‑4oが提供し承認した正確な医療助言」に従って死亡したと主張しています。
訴状によれば、ネルソンは高校生の頃の2023年から宿題の手伝いやコンピュータのトラブルシューティングのためにチャットGPTを使い始めました。その後、安全な薬物使用についてチャットボットに尋ねるようになったとされています。最初はチャットGPT側が助言を拒否し、薬物の使用は健康や福祉に重大な影響を及ぼす可能性があると警告した、と訴状は述べています。原告側は、2024年のGPT‑4oの展開後にこれが変わったと主張しています。
訴状には、チャットGPTがジフェンヒドラミン、コカイン、アルコールを短時間で連続して服用する危険性について議論したとされる会話の抜粋が含まれています。別のやり取りでは、チャットボットがネルソンに対し、クラトムに対する高い耐性のために満腹時では大容量でも効果が弱まると述べ、その後「テーパー」して耐性を下げる方法を助言したとされています。
訴状は、2025年5月31日に「チャットGPTがサムにクラトムとXanaxを混ぜるよう積極的に指導した」と述べています。ネルソンがクラトムで吐き気を感じたと言った後、チャットGPTは吐き気を和らげるための「今できる最良の動き」の一つとして0.25〜0.5mgのXanaxを示唆したとされています。訴状は、その推奨が促されていない状況で行われ、チャットGPTがその組み合わせが致命的になり得る可能性を警告しなかったと主張しています。
両親は不法死亡に加え、オープンエーアイに対して無許可の医療行為の実施を非難し、金銭的賠償を求めています。また、ユーザーが医療記録やウェルネスアプリを接続してより個別化された健康応答を受けられる新機能「チャットGPTヘルス」の運用を裁判所に差し止めるよう求めています。
「チャットGPTは、代償を顧みずにユーザーの関与を最大化するよう意図的に設計された製品です」とTech Justice Law Projectのエグゼクティブディレクター、ミータリ・ジャインは述べています。「オープンエーアイは、実質的に医療トリアージシステムとして使用されていることを認識しつつ、合理的な安全対策、十分な安全性テスト、または一般への透明性なしに欠陥のあるAI製品を世界中の消費者に直接提供しました。」
出典：
さらにテックニュースはDoppler VPN Blogでお読みください。