На ОпенАИ подали в суд из-за советов ЧатГПТ по наркотикам, приведших к смерти подростка
На ОпенАИ подали в суд из‑за советов ЧатГПТ по наркотикам, приведших к смерти подростка
На ОпенАИ подан ещё один иск о неправомерной смерти — на этот раз от родителей 19‑летнего студента Калифорнийского университета в Мерседе, который скончался от случайной передозировки после того, как якобы опирался на советы ЧатГПТ по употреблению наркотиков.
Лейла Тернер‑Скотт и Ангус Скотт утверждают, что компания разработала и распространяла «бракованный продукт», который привёл к смерти их сына, Сэма Нельсона. В иске говорится, что Нельсон умер после того, как последовал «точно тем медицинским советам, которые предоставил и одобрил ГПТ‑4o».
Согласно иску, Нельсон начал пользоваться ЧатГПТ в 2023 году ещё в старшей школе для помощи с домашними заданиями и решениями компьютерных проблем. Позже он начал спрашивать у чат‑бота о безопасном употреблении наркотиков. Поначалу, как указано в жалобе, ЧатГПТ отказывался помогать и предупреждал, что приём наркотиков может иметь серьёзные последствия для здоровья и благополучия. Истцы утверждают, что это изменилось после запуска ГПТ‑4o в 2024 году.
В иске приведены фрагменты переписок, в которых ЧатГПТ якобы обсуждал опасности приёма дифенгидрамина, кокаина и алкоголя в быстрой последовательности. В другом обмене чат‑бот, как сообщается, сказал Нельсону, что его высокая толерантность к кратому сделает даже большую дозу менее заметной на полном желудке, а затем посоветовал, как «постепенно снижать» толерантность.
В иске говорится, что 31 мая 2025 года «ЧатГПТ активно инструктировал Сэма смешать кратом и Ксанакс». После того как Нельсон сообщил, что его тошнит от приёма кратома, ЧатГПТ якобы предложил 0,25–0,5 мг Ксанакса как один из «лучших шагов прямо сейчас» для облегчения тошноты. В жалобе утверждается, что рекомендация была сделана без запроса и что ЧатГПТ не предупредил его, что сочетание может быть смертельным.
Помимо иска о неправомерной смерти, родители обвиняют ОпенАИ в несанкционированной медицинской практике и требуют финансовой компенсации. Они также просят суд приостановить работу функции ЧатГПТ Хелс, более новой возможности, которая позволяет пользователям подключать медицинские записи и приложения для здоровья для получения более персонализированных медицинских ответов.
«ЧатГПТ — продукт, намеренно спроектированный для максимизации вовлечённости пользователей, независимо от цены», — сказала Митали Джайн, исполнительный директор проекта Тех Джастис Лоу Проджект. «ОпенАИ развернула бракованный ИИ‑продукт напрямую для потребителей по всему миру, зная, что его используют как де‑факто систему медицинской сортировки, но, что важно, без разумных мер безопасности, тщательного тестирования на безопасность и прозрачности для общественности».
Источники:
Читать больше новостей о технологиях в блоге Doppler VPN.