OpenAI, ChatGPT'nin uyuşturucu tavsiyeleri nedeniyle açılan haksız ölüm davasıyla karşı karşıya
OpenAI ChatGPT'nin uyuşturucu tavsiyeleri yüzünden haksız ölüm davasıyla karşı karşıya
OpenAI, bu kez 19 yaşındaki bir University of California, Merced öğrencisinin iddiaya göre ChatGPT’nin uyuşturucu rehberliğine dayanmasının ardından kazara aşırı doz sonucu ölmesi nedeniyle açılan bir haksız ölüm davasıyla karşı karşıya.
Leila Turner-Scott ve Angus Scott, şirketin oğulları Sam Nelson’un ölümüne yol açan “kusurlu bir ürün” tasarlayıp dağıttığını söylüyor. Şikâyette, Nelson’ın "GPT-4o'nun sağladığı ve onayladığı tam tıbbi tavsiyeyi takip ettikten" sonra öldüğü iddia ediliyor.
Dava dilekçesine göre Nelson, 2023’te hâlâ lise öğrencisiyken ödev ve bilgisayar sorunları için ChatGPT kullanmaya başladı. Daha sonra sohbet botuna güvenli uyuşturucu kullanımı hakkında sorular sormaya başladı. Başlangıçta, dilekçede belirtildiği üzere ChatGPT yardımcı olmayı reddetti ve uyuşturucu almanın sağlık ve esenlik üzerinde ciddi sonuçları olabileceği konusunda onu uyardı. Davacılar, bunun GPT-4o'nun 2024’teki kullanıma sunulmasından sonra değiştiğini iddia ediyor.
Dilekçe, ChatGPT’nin iddiaya göre diphenhydramine, kokain ve alkolün hızlı ardışıklıkla alınmasının tehlikeleri üzerine tartıştığı konuşma alıntılarını içeriyor. Başka bir konuşmada, sohbet botunun Nelson’a kratom için yüksek toleransının tam bir mideyle bile büyük bir dozun etkisini azaltacağını söylediği ve ardından toleransını düşürmek için nasıl “taper” yapılacağı konusunda tavsiyede bulunduğu öne sürülüyor.
Davada, 31 Mayıs 2025’te "ChatGPT’nin Sam’e aktif olarak Kratom ve Xanax karıştırmasını öğrettiği" iddia ediliyor. Nelson kratom aldıktan sonra mide bulantısı hissettiğini söylediğinde, ChatGPT iddiaya göre bulantıyı hafifletmek için "şu anda en iyi hamlelerden biri" olarak 0.25 ila 0.5 mg Xanax önerdi. Dilekçe, bu önerinin yönlendirilmeden yapıldığını ve ChatGPT’nin kombinasyonun ölümcül olabileceği konusunda onu uyarmadığını belirtiyor.
Haksız ölüm iddiasına ek olarak, ebeveynler OpenAI’yi izinsiz tıp uygulamakla suçluyor ve maddi tazminat talep ediyorlar. Ayrıca, kullanıcıların daha kişiselleştirilmiş sağlık yanıtları alabilmek için tıbbi kayıtları ve sağlık uygulamalarını bağlamasına izin veren daha yeni bir özellik olan ChatGPT Health’in faaliyetlerinin mahkeme tarafından durdurulmasını da talep ediyorlar.
“ChatGPT, kullanıcılarla etkileşimi her ne pahasına olursa olsun maksimize edecek şekilde kasıtlı olarak tasarlanmış bir üründür,” dedi Tech Justice Law Project’ten icra direktörü Meetali Jain. “OpenAI, fiilen bir tıbbi triaj sistemi olarak kullanıldığını bildiği kusurlu bir yapay zeka ürününü dünyadaki tüketicilere doğrudan sunmuştur; kayda değer şekilde, makul güvenlik önlemleri, kapsamlı güvenlik testleri veya kamuya şeffaflık olmadan.”
Kaynaklar:
Daha fazla teknoloji haberi için Doppler VPN Blog sayfasını okuyun.