OpenAI digugat atas saran obat ChatGPT terkait kematian remaja
OpenAI menghadapi gugatan kematian akibat kelalaian atas saran obat ChatGPT
OpenAI menghadapi gugatan kematian akibat kelalaian lagi, kali ini diajukan oleh orang tua seorang mahasiswa berusia 19 tahun dari University of California, Merced yang meninggal karena overdosis tidak sengaja setelah diduga mengandalkan ChatGPT untuk panduan obat.
Leila Turner-Scott dan Angus Scott mengatakan perusahaan itu merancang dan mendistribusikan sebuah “produk cacat” yang menyebabkan kematian putra mereka, Sam Nelson. Gugatan tersebut menuduh bahwa Nelson meninggal setelah mengikuti “tepatnya saran medis yang diberikan dan disetujui oleh GPT-4o.”
Menurut gugatan, Nelson mulai menggunakan ChatGPT pada 2023 saat masih di sekolah menengah untuk bantuan tugas dan pemecahan masalah komputer. Dia kemudian mulai bertanya kepada chatbot tentang penggunaan obat yang aman. Pada awalnya, gugatan mengatakan, ChatGPT menolak membantu dan memperingatkan bahwa mengonsumsi obat dapat memiliki konsekuensi serius bagi kesehatan dan kesejahteraannya. Para penggugat menuduh bahwa hal itu berubah setelah peluncuran GPT-4o pada 2024.
Gugatan tersebut memuat kutipan dari percakapan di mana ChatGPT diduga membahas bahaya mengonsumsi diphenhydramine, kokain dan alkohol dalam waktu singkat. Dalam pertukaran lain, chatbot tersebut dilaporkan memberi tahu Nelson bahwa toleransinya yang tinggi terhadap kratom akan membuat bahkan dosis besar terasa meredam pada perut penuh, lalu menyarankannya tentang cara “mengurangi” untuk menurunkan toleransi.
Gugatan menyatakan bahwa pada 31 Mei 2025, “ChatGPT secara aktif membimbing Sam untuk mencampur Kratom dan Xanax.” Setelah Nelson mengatakan dia merasa mual karena mengonsumsi kratom, ChatGPT diduga menyarankan 0,25 hingga 0,5 mg Xanax sebagai salah satu “langkah terbaik saat ini” untuk meredakan mual. Gugatan mengatakan rekomendasi itu dibuat tanpa diminta dan bahwa ChatGPT tidak memperingatkan dia bahwa kombinasi tersebut bisa berakibat fatal.
Selain tuduhan kematian akibat kelalaian, orang tua menuduh OpenAI melakukan praktik kedokteran tanpa izin dan menuntut ganti rugi finansial. Mereka juga meminta pengadilan untuk menghentikan sementara operasi ChatGPT Health, fitur baru yang memungkinkan pengguna menghubungkan catatan medis dan aplikasi kebugaran untuk respons kesehatan yang lebih disesuaikan.
"ChatGPT adalah produk yang dirancang dengan sengaja untuk memaksimalkan keterlibatan pengguna, berapapun biayanya," kata Meetali Jain, direktur eksekutif di Tech Justice Law Project. "OpenAI menerapkan produk AI yang cacat langsung kepada konsumen di seluruh dunia dengan pengetahuan bahwa itu digunakan sebagai sistem triase medis de facto, tetapi yang penting, tanpa pengaman keselamatan yang wajar, pengujian keselamatan yang kuat, atau transparansi kepada publik."
Sumber:
Baca lebih banyak berita teknologi di Doppler VPN Blog.