OpenAI disaman kerana nasihat dadah ChatGPT dalam kematian remaja
OpenAI berdepan tuntutan kematian akibat kecuaian berhubung nasihat dadah ChatGPT
OpenAI berdepan satu lagi tuntutan kematian akibat kecuaian, kali ini daripada ibu bapa seorang pelajar Universiti California, Merced berusia 19 tahun yang meninggal akibat terlebih dos secara tidak sengaja selepas dikatakan bergantung pada ChatGPT untuk panduan berkaitan dadah.
Leila Turner-Scott dan Angus Scott mendakwa syarikat itu mereka bentuk dan mengedar sebuah “produk cacat” yang membawa kepada kematian anak mereka, Sam Nelson. Aduan itu mendakwa Nelson meninggal selepas mengikuti “nasihat perubatan tepat yang diberikan dan diluluskan oleh GPT-4o.”
Menurut tuntutan itu, Nelson mula menggunakan ChatGPT pada 2023 ketika masih di sekolah menengah untuk bantuan kerja sekolah dan menyelesaikan masalah komputer. Dia kemudian mula bertanya kepada chatbot itu tentang penggunaan dadah yang selamat. Pada mulanya, aduan itu menyatakan, ChatGPT enggan membantu dan memberi amaran bahawa mengambil dadah boleh memberi kesan serius kepada kesihatan dan kesejahteraannya. Plaintif mendakwa itu berubah selepas pelancaran GPT-4o pada 2024.
Aduan itu menyertakan petikan perbualan di mana ChatGPT dikatakan membincangkan bahaya mengambil diphenhydramine, kokain dan alkohol secara berturutan. Dalam satu pertukaran lain, chatbot itu dilaporkan memberitahu Nelson bahawa toleransinya yang tinggi terhadap kratom akan menyebabkan dos besar terasa terjejas pada perut penuh, kemudian menasihatinya tentang cara untuk “mengurangkan” supaya menurunkan toleransinya.
Tuntutan itu menyatakan bahawa pada 31 Mei 2025, “ChatGPT secara aktif membimbing Sam untuk mencampurkan Kratom dan Xanax.” Selepas Nelson berkata dia berasa loya akibat mengambil kratom, ChatGPT dikatakan mencadangkan 0.25 hingga 0.5 mg Xanax sebagai salah satu “langkah terbaik sekarang” untuk melegakan loya itu. Aduan itu mengatakan cadangan itu dibuat tanpa diminta dan bahawa ChatGPT tidak memberi amaran bahawa gabungan tersebut boleh membawa maut.
Selain tuntutan kematian, ibu bapa itu menuduh OpenAI melakukan amalan perubatan tanpa kebenaran dan menuntut pampasan kewangan. Mereka juga memohon mahkamah untuk menggantung operasi ChatGPT Health, satu ciri baru yang membolehkan pengguna menyambungkan rekod perubatan dan aplikasi kesejahteraan untuk respons kesihatan yang lebih disesuaikan.
“ChatGPT adalah produk yang direka dengan sengaja untuk memaksimumkan penglibatan pengguna, tanpa mengira kos,” kata Meetali Jain, pengarah eksekutif di Tech Justice Law Project. “OpenAI mengedarkan produk AI cacat terus kepada pengguna di seluruh dunia dengan pengetahuan bahawa ia digunakan sebagai sistem triage perubatan de facto, tetapi yang ketara, tanpa pagar keselamatan yang munasabah, ujian keselamatan yang kukuh, atau ketelusan kepada orang ramai.”
Sumber:
Baca lebih banyak berita teknologi di Doppler VPN Blog.