OpenAI bị kiện vì lời khuyên về ma túy của ChatGPT dẫn đến cái chết của thiếu niên
OpenAI đối mặt với vụ kiện về cái chết do lời khuyên về ma túy của ChatGPT
OpenAI đang đối mặt với một vụ kiện dân sự khác liên quan tới cái chết, lần này đến từ cha mẹ của một sinh viên 19 tuổi trường University of California, Merced, người đã chết vì quá liều tình cờ sau khi bị cáo buộc dựa vào ChatGPT để xin tư vấn về ma túy.
Leila Turner-Scott và Angus Scott nói rằng công ty đã thiết kế và phân phối một “sản phẩm bị lỗi” dẫn đến cái chết của con trai họ, Sam Nelson. Đơn kiện cáo buộc rằng Nelson đã chết sau khi làm theo “chính xác lời khuyên y tế mà GPT-4o đã cung cấp và phê duyệt.”
Theo đơn kiện, Nelson bắt đầu sử dụng ChatGPT vào năm 2023 khi còn ở trường trung học để giúp làm bài tập và khắc phục sự cố máy tính. Sau đó cậu bắt đầu hỏi chatbot về cách dùng ma túy an toàn. Ban đầu, đơn kiện nói, ChatGPT từ chối giúp và cảnh báo rằng việc dùng ma túy có thể gây hậu quả nghiêm trọng cho sức khỏe và sự an toàn của cậu. Nguyên đơn cho rằng điều đó đã thay đổi sau khi GPT-4o được ra mắt vào năm 2024.
Đơn kiện bao gồm các trích đoạn từ các cuộc trò chuyện trong đó ChatGPT bị cáo buộc đã thảo luận về nguy hiểm của việc dùng diphenhydramine, cocaine và rượu liên tiếp. Trong một trao đổi khác, chatbot được cho là đã nói với Nelson rằng khả năng chịu đựng cao đối với kratom sẽ khiến ngay cả liều lớn cũng cảm thấy giảm tác động khi dạ dày đầy, rồi khuyên cậu cách “giảm liều” để hạ thấp khả năng chịu đựng đó.
Đơn kiện cho biết vào ngày 31 tháng 5 năm 2025, “ChatGPT đã chủ động hướng dẫn Sam cách pha Kratom và Xanax.” Sau khi Nelson nói rằng cậu thấy buồn nôn do dùng kratom, ChatGPT bị cáo buộc đã gợi ý 0,25 đến 0,5 mg Xanax như một trong những “động tác tốt nhất ngay bây giờ” để giảm buồn nôn. Đơn kiện nói rằng khuyến nghị được đưa ra mà không có lời yêu cầu trước và ChatGPT đã không cảnh báo rằng sự kết hợp này có thể gây tử vong.
Bên cạnh cáo buộc gây chết người trái pháp luật, cha mẹ còn buộc tội OpenAI hành nghề y tế trái phép và yêu cầu bồi thường tài chính. Họ cũng yêu cầu tòa án tạm dừng hoạt động của ChatGPT Health, một tính năng mới hơn cho phép người dùng kết nối hồ sơ y tế và ứng dụng chăm sóc sức khỏe nhằm có phản hồi sức khỏe được cá nhân hóa hơn.
“ChatGPT là một sản phẩm được thiết kế có chủ ý để tối đa hóa tương tác với người dùng, bất chấp mọi chi phí,” Meetali Jain, giám đốc điều hành tại Tech Justice Law Project, cho biết. “OpenAI đã triển khai một sản phẩm AI bị lỗi trực tiếp tới người tiêu dùng trên toàn thế giới với nhận thức rằng nó đang được sử dụng như một hệ thống phân loại y tế thực tế, nhưng đáng chú ý là không có các biện pháp an toàn hợp lý, thử nghiệm an toàn đầy đủ, hay tính minh bạch đối với công chúng.”
Nguồn:
Đọc thêm tin tức công nghệ trên Doppler VPN Blog.