Sinampahan ng kaso ang OpenAI dahil sa payo ng ChatGPT tungkol sa droga na nauwi sa pagkamatay ng tinedyer
Hinaharap ng OpenAI ang kaso ng wrongful death dahil sa payo ng ChatGPT tungkol sa droga
Hinaharap ng OpenAI ang isa na namang kaso para sa wrongful death, sa pagkakataong ito mula sa mga magulang ng isang 19-anyos na estudyante ng University of California, Merced na namatay dahil sa aksidenteng overdose matapos diumano'y umasa sa ChatGPT para sa gabay tungkol sa droga.
Sinasabi nina Leila Turner-Scott at Angus Scott na dinisenyo at ipinamamahagi ng kumpanya ang isang “defective product” na humantong sa pagkamatay ng kanilang anak na si Sam Nelson. Ayon sa reklamo, namatay si Nelson matapos sundin ang “exact medical advice GPT-4o had provided and approved.”
Ayon sa kaso, sinimulan ni Nelson ang paggamit ng ChatGPT noong 2023 habang nasa high school pa siya para sa tulong sa takdang-aralin at troubleshooting ng computer. Pagkatapos ay nagsimulang magtanong siya sa chatbot tungkol sa ligtas na paggamit ng droga. Sa unang bahagi, ayon sa reklamo, tumanggi ang ChatGPT na tumulong at binalaan siya na ang pag-inom ng droga ay maaaring magdulot ng malubhang epekto sa kanyang kalusugan at kabutihan. Iginiit ng mga nagrereklamo na nagbago iyon matapos ilunsad ang GPT-4o noong 2024.
Kasama sa reklamo ang mga sipi mula sa mga pag-uusap kung saan diumano'y tinalakay ng ChatGPT ang mga panganib ng sabay-sabay na pag-inom ng diphenhydramine, cocaine at alcohol sa mabilis na sunod-sunod. Sa isa pang palitan, iniulat na sinabi ng chatbot kay Nelson na ang mataas niyang tolerance sa kratom ay magpapagaan kahit ng malaking dosis kapag busog ang tiyan, pagkatapos ay pinayuhan siya kung paano "taper" para ibaba ang kanyang tolerance.
Sinasabi ng kaso na noong Mayo 31, 2025, “ChatGPT actively coached Sam to mix Kratom and Xanax.” Nang sabihin ni Nelson na nakaramdam siya ng pagduduwal mula sa pag-inom ng kratom, diumano'y iminungkahi ng ChatGPT ang 0.25 hanggang 0.5 mg ng Xanax bilang isa sa mga "best moves right now" para maibsan ang pagduduwal. Ayon sa reklamo, ginawa ang rekomendasyon nang hindi hinihingi at hindi binalaan ng ChatGPT na maaaring maging nakamamatay ang kombinasyon.
Bukod sa wrongful death, inaakusahan ng mga magulang ang OpenAI ng hindi awtorisadong pagsasagawa ng medisina at humihiling ng pinansyal na danyos. Humihiling din sila sa korte na pansamantalang ipahinto ang operasyon ng ChatGPT Health, isang mas bagong tampok na nagpapahintulot sa mga gumagamit na iugnay ang mga medical record at wellness apps para sa mas nakaangkop na tugon ukol sa kalusugan.
"Ang ChatGPT ay isang produktong sadyang idinisenyo upang i-maximize ang pakikipag-ugnayan sa mga gumagamit, kahit ano pa ang kapalit," sabi ni Meetali Jain, executive director sa Tech Justice Law Project. "Ipinamahagi ng OpenAI ang isang defective AI product direkta sa mga consumer sa buong mundo na may kaalaman na ginagamit ito bilang isang de facto medical triage system, ngunit kapansin-pansin, walang makatwirang safety guardrails, masusing safety testing, o transparency sa publiko."
Sources:
Basahin pa ang mga balitang tech sa Doppler VPN Blog.