La famille poursuit OpenAI au sujet d'interactions ChatGPT liées à la fusillade de Tumbler Ridge

La famille d'une des victimes de la fusillade de masse de Tumbler Ridge a intenté une action en justice contre OpenAI. La plainte, déposée devant la Cour suprême de la Colombie-Britannique au nom de Maya Gebala, 12 ans, par sa mère Cia Edmonds, allègue que la société technologique n'a pas signalé aux autorités des invites liées à la violence provenant du tireur.

Allégations de la plainte

Le procès avance plusieurs chefs d'accusation principaux :

OpenAI aurait conçu son outil de discussion, ChatGPT, d'une manière qui a créé des risques pour que les utilisateurs "deviennent psychologiquement et socialement dépendants" de celui-ci.
La société "avait une connaissance précise des planifications à long terme du tireur concernant un événement à victimes multiples", mais "n'a pris aucune mesure pour agir sur cette connaissance."
Le compte du tireur a été fermé en interne, mais les forces de l'ordre au Canada n'ont pas été informées malgré le fait que plusieurs employés aient soulevé des inquiétudes.
ChatGPT aurait pris le rôle de "conseiller, pseudo-thérapeute, confident de confiance, ami et allié", et aurait été prétendument "intentionnellement conçu pour favoriser une dépendance psychologique" en transmettant une empathie de type humain et en renvoyant les émotions de l'utilisateur.
Le tireur, identifié dans la plainte comme Jesse Van Rootselaar, a interagi à plusieurs reprises avec ChatGPT dans la période précédant la fusillade.
Le tireur avait moins de 18 ans lorsqu'il a commencé à utiliser ChatGPT, et malgré la déclaration d'OpenAI selon laquelle les utilisateurs âgés de 13 à 18 ans nécessitent le consentement parental, la société n'aurait pris aucune mesure pour mettre en place une vérification de l'âge ou des procédures de consentement.

CBC News a contacté OpenAI pour obtenir une réponse. Aucune des allégations n'a été prouvée devant les tribunaux.

Préjudices subis par les victimes et les demandeurs

La plainte détaille les préjudices subis par Maya Gebala et sa famille :

Maya a été atteinte par trois balles lors de la fusillade du 10 février, qui a fait huit victimes plus le jeune auteur des faits, âgé de 18 ans, décédé.
En conséquence, le procès indique que Maya a subi une "lésion cérébrale traumatique catastrophique" avec une "incapacité cognitive et physique permanente", ainsi que d'autres problèmes médicaux.
La sœur cadette de Maya, qui faisait partie des élèves placés en hold-and-secure pendant la fusillade, est citée comme demanderesse et souffrirait de trouble de stress post-traumatique, d'anxiété et de dépression.
Cia Edmonds, la mère de Maya et demanderesse principale, est également citée comme demanderesse et ferait face à des répercussions émotionnelles et mentales résultant de l'incident.

Les demandeurs réclament des dommages-intérêts et le remboursement des coûts encourus à la suite de la fusillade. Les avocats de la famille Gebala indiquent que la poursuite vise à connaître la vérité sur la fusillade de Tumbler Ridge, à imposer des responsabilités et à "prévenir une autre atrocité par fusillade de masse au Canada." La famille a déclaré qu'elle ne commenterait pas davantage tant que l'affaire est devant les tribunaux.

Répercussions politiques et réglementaires

OpenAI a fait face à un contrecoup politique après qu'il a été révélé que la société avait suspendu le compte du tireur mais n'avait pas signalé ce compte aux autorités canadiennes. Plusieurs employés avaient soulevé des inquiétudes en interne, selon des reportages.

La semaine dernière, le PDG d'OpenAI, Sam Altman, a rencontré virtuellement le premier ministre de la Colombie-Britannique David Eby et le maire de Tumbler Ridge Darryl Krakowka, après une réunion distincte avec le ministre fédéral de l'intelligence artificielle, Evan Solomon. Le premier ministre Eby a déclaré qu'Altman avait accepté de présenter des excuses aux habitants de Tumbler Ridge et de travailler avec le gouvernement provincial sur des recommandations de régulation de l'IA.

Solomon a indiqué qu'OpenAI s'était engagé à collaborer plus étroitement avec les autorités canadiennes, et que des changements de politique depuis la fusillade signifiaient qu'il existe désormais un seuil plus bas pour notifier les forces de l'ordre. Par ailleurs, une enquête du coroner a été annoncée pour examiner les facteurs ayant contribué à la fusillade, y compris le rôle de l'IA ; aucune date pour cette enquête n'a encore été communiquée.

Sources :

cbc.ca