Familia demanda a OpenAI por interacciones en ChatGPT vinculadas al tiroteo de Tumbler Ridge

La familia de una de las víctimas del tiroteo masivo de Tumbler Ridge ha presentado una demanda contra OpenAI. La denuncia, presentada en la Corte Suprema de Columbia Británica en nombre de la niña de 12 años Maya Gebala por su madre, Cia Edmonds, alega que la empresa tecnológica no alertó a las autoridades sobre mensajes en el chat del autor del tiroteo relacionados con la violencia.

Alegaciones en la demanda

La demanda plantea varias afirmaciones centrales:

OpenAI diseñó su herramienta de chat, ChatGPT, de una manera que creó riesgos de que los usuarios "se volvieran psicológica y socialmente dependientes" de ella.
La compañía "tenía conocimiento específico de la planificación a largo plazo del autor del tiroteo sobre un evento con víctimas masivas", pero "no tomó medidas para actuar sobre ese conocimiento."
La cuenta del autor fue cerrada internamente, pero no se notificó a las fuerzas del orden en Canadá a pesar de que varios empleados plantearon preocupaciones.
ChatGPT asumió el papel de "consejero, pseudo-terapeuta, confidente de confianza, amigo y aliado", y supuestamente fue "intencionalmente diseñado para fomentar la dependencia psicológica" al transmitir empatía humana y reflejar las emociones del usuario.
El autor del tiroteo, identificado en la demanda como Jesse Van Rootselaar, interactuó varias veces con ChatGPT en los días previos al tiroteo.
El autor tenía menos de 18 años cuando comenzó a usar ChatGPT, y pese a que OpenAI afirma que los usuarios de 13 a 18 años necesitan el consentimiento parental, la compañía no tomó medidas para implementar procedimientos de verificación de edad o de consentimiento.

CBC News ha solicitado una respuesta a OpenAI. Ninguna de las afirmaciones ha sido probada en la corte.

Daños a las víctimas y demandantes

La demanda detalla los daños sufridos por Maya Gebala y su familia:

Maya fue alcanzada por tres disparos durante el tiroteo masivo del 10 de febrero, que dejó ocho víctimas además del agresor de 18 años fallecido.
Como resultado, la demanda afirma que Maya sufrió una "lesión cerebral traumática catastrófica" con "discapacidad cognitiva y física permanente", junto con otras complicaciones médicas.
La hermana menor de Maya, que estuvo entre los estudiantes resguardados durante el tiroteo, figura como demandante y se dice que padece trastorno de estrés postraumático, ansiedad y depresión.
Cia Edmonds, madre de Maya y demandante principal, también aparece como demandante y se informa que enfrenta impactos emocionales y mentales derivados del incidente.

Los demandantes buscan una compensación por daños y los costos incurridos como resultado del tiroteo. Los abogados de la familia Gebala dicen que la demanda tiene como objetivo conocer la verdad sobre el tiroteo masivo de Tumbler Ridge, imponer responsabilidad y "prevenir otra atrocidad por tiroteo masivo en Canadá." La familia ha declarado que no hará más comentarios mientras el caso esté ante los tribunales.

Repercusiones políticas y regulatorias

OpenAI ha enfrentado reacciones políticas después de que se supo que la compañía había suspendido la cuenta del autor del tiroteo pero no informó de la cuenta a las autoridades canadienses. Según reportes, varios empleados habían expresado preocupaciones internamente.

La semana pasada, el CEO de OpenAI, Sam Altman, se reunió de forma virtual con el premier de Columbia Británica, David Eby, y con el alcalde de Tumbler Ridge, Darryl Krakowka, tras una reunión separada con el ministro federal de inteligencia artificial, Evan Solomon. El premier Eby dijo que Altman acordó disculparse con la gente de Tumbler Ridge y trabajar con el gobierno provincial en recomendaciones para la regulación de la IA.

Solomon dijo que OpenAI se comprometió a colaborar más estrechamente con las autoridades canadienses, y que los cambios de política desde el tiroteo significan que ahora hay un umbral más bajo para notificar a las fuerzas del orden. Mientras tanto, se ha anunciado una investigación del forense para examinar los factores que contribuyeron al tiroteo, incluido el papel de la IA; todavía no se ha dado a conocer la fecha de esa investigación.

Fuentes:

cbc.ca