Семья подала в суд на OpenAI из-за взаимодействий в ChatGPT, связанных со стрельбой в Tumbler Ridge

Семья одной из жертв массовой стрельбы в Tumbler Ridge подала иск против OpenAI. Иск, поданный в Верховный суд Британской Колумбии от имени 12‑летней Maya Gebala её матерью Cia Edmonds, утверждает, что технологическая компания не уведомила власти о чат‑подсказках стрелка, связанных с насилием.

Утверждения в иске

В иске выдвигаются несколько ключевых претензий:

OpenAI спроектировала свой чат‑инструмент ChatGPT таким образом, что он создавал риск «что пользователи станут психологически и социально зависимыми» от него.
Компания «имела конкретные сведения о долгосрочном планировании стрелком массового убийства», но «не приняла никаких мер для реагирования на эти сведения».
Учётная запись стрелка была отключена внутри компании, но канадские правоохранительные органы не были уведомлены, несмотря на то, что несколько сотрудников высказывали озабоченность.
ChatGPT якобы взял на себя роль «консультанта, псевдотерапевта, доверенного лица, друга и союзника», и был «намеренно спроектирован для формирования психологической зависимости», передавая человечную эмпатию и отражая эмоции пользователя.
В иске утверждается, что стрелок, названный Jesse Van Rootselaar, несколько раз взаимодействовал с ChatGPT в преддверии стрельбы.
Стрелок был моложе 18 лет, когда начал использовать ChatGPT, и несмотря на заявление OpenAI о том, что пользователи в возрасте от 13 до 18 лет нуждаются в родительском согласии, компания не предприняла шагов по проверке возраста или процедурам получения согласия.

CBC News обратился за комментарием в OpenAI. Ни одно из утверждений не доказано в суде.

Ущерб, причинённый жертвам и истцам

Иск подробно описывает вред, причинённый Maya Gebala и её семье:

Maya была ранена тремя выстрелами во время массовой стрельбы 10 февраля, в результате которой погибло восемь жертв плюс 18‑летний преступник.
В иске говорится, что Maya получила «катастрофическое, травматическое повреждение мозга» с «постоянной когнитивной и физической инвалидностью», а также другие медицинские проблемы.
Младшая сестра Maya, которая была среди учеников, находившихся в режиме «hold-and-secure» во время стрельбы, указана как истец и, как сообщается, страдает от посттравматического стрессового расстройства, тревоги и депрессии.
Cia Edmonds, мать Maya и ведущий истец, также указана как истец и, по сообщениям, испытывает эмоциональные и психические последствия в результате происшествия.

Истцы требуют возмещения ущерба и расходов, возникших в результате стрельбы. Адвокаты семьи Gebala заявляют, что цель иска — выяснить правду о массовой стрельбе в Tumbler Ridge, привлечь к ответственности и «предотвратить ещё одну массовую стрельбу в Канаде». Семья сообщила, что не будет давать дальнейших комментариев, пока дело рассматривается в суде.

Политические и регуляторные последствия

OpenAI столкнулась с политической реакцией после того, как выяснилось, что компания приостановила учётную запись стрелка, но не сообщила о ней канадским властям. По сообщениям, несколько сотрудников внутри компании выражали озабоченность.

На прошлой неделе гендиректор OpenAI Sam Altman провёл виртуальную встречу с премьером Британской Колумбии David Eby и мэром Tumbler Ridge Darryl Krakowka, после отдельной встречи с федеральным министром по искусственному интеллекту Evan Solomon. Премьер Eby заявил, что Altman согласился извиниться перед жителями Tumbler Ridge и работать с провинциальным правительством над рекомендациями по регулированию ИИ.

Solomon сообщил, что OpenAI пообещала теснее сотрудничать с канадскими властями, и что после стрельбы в политике компании произошли изменения, снизившие порог для уведомления правоохранительных органов. Между тем объявлено о коронерском следствии для изучения факторов, способствовавших стрельбе, включая роль искусственного интеллекта; дата этого следствия пока не объявлена.

Источники:

cbc.ca