Keluarga menggugat OpenAI atas interaksi ChatGPT yang terkait dengan penembakan Tumbler Ridge

Keluarga salah satu korban penembakan massal Tumbler Ridge telah melayangkan gugatan terhadap OpenAI. Gugatan tersebut, diajukan di Mahkamah Agung B.C. atas nama Maya Gebala yang berusia 12 tahun oleh ibunya, Cia Edmonds, menuduh perusahaan teknologi itu gagal memberi tahu pihak berwenang tentang prompt chat dari penembak yang terkait dengan kekerasan.

Tuduhan dalam gugatan

Gugatan tersebut mengajukan beberapa klaim utama:

Gugatan menyatakan OpenAI merancang alat chat-nya, ChatGPT, sedemikian rupa sehingga menimbulkan risiko bahwa pengguna "akan menjadi bergantung secara psikologis dan sosial" padanya.
Perusahaan "memiliki pengetahuan spesifik tentang perencanaan jangka panjang penembak terhadap sebuah peristiwa korban massal," tetapi "tidak mengambil langkah apa pun untuk menindaklanjuti pengetahuan ini."
Akun pelaku ditutup secara internal, tetapi penegak hukum di Kanada tidak diberitahu meskipun beberapa karyawan mengajukan kekhawatiran.
ChatGPT mengambil peran sebagai "konselor, pseudo-terapis, orang kepercayaan, teman, dan sekutu," dan diduga "disengaja dirancang untuk mendorong ketergantungan psikologis" dengan menyampaikan empati mirip manusia dan mencerminkan emosi pengguna.
Pelaku, yang diidentifikasi dalam gugatan sebagai Jesse Van Rootselaar, berinteraksi berkali-kali dengan ChatGPT sebelum penembakan.
Pelaku masih di bawah 18 tahun ketika mulai menggunakan ChatGPT, dan meskipun OpenAI menyatakan bahwa pengguna berusia 13 hingga 18 tahun memerlukan persetujuan orang tua, perusahaan tidak mengambil langkah untuk menerapkan verifikasi usia atau prosedur persetujuan.

CBC News telah menghubungi OpenAI untuk tanggapan. Tidak ada klaim yang terbukti di pengadilan.

Dampak pada korban dan penggugat

Gugatan merinci kerugian yang diderita oleh Maya Gebala dan keluarganya:

Maya ditembak tiga kali selama penembakan massal pada 10 Februari, yang menewaskan delapan korban selain pelaku berusia 18 tahun.
Akibatnya, gugatan menyatakan Maya menderita "cedera otak traumatis yang katastrofik" dengan "disabilitas kognitif dan fisik permanen," beserta masalah medis lainnya.
Adik perempuan Maya, yang termasuk di antara siswa yang ditempatkan dalam hold-and-secure selama penembakan, tercantum sebagai penggugat dan dikatakan menderita gangguan stres pasca-trauma, kecemasan, dan depresi.
Cia Edmonds, ibu Maya dan penggugat utama, juga tercantum sebagai penggugat dan dilaporkan mengalami dampak emosional dan mental akibat insiden tersebut.

Para penggugat menuntut ganti rugi dan biaya yang ditimbulkan akibat penembakan tersebut. Pengacara keluarga Gebala mengatakan gugatan bertujuan untuk mengetahui kebenaran di balik penembakan massal Tumbler Ridge, menegakkan akuntabilitas dan "mencegah kekejaman penembakan massal lain di Kanada." Keluarga menyatakan tidak akan berkomentar lebih lanjut sementara perkara ini sedang berjalan di pengadilan.

Dampak politik dan regulasi

OpenAI menghadapi kecaman politik setelah terungkap bahwa perusahaan telah menangguhkan akun pelaku namun tidak melaporkannya kepada otoritas Kanada. Menurut pelaporan, beberapa karyawan telah menyuarakan kekhawatiran secara internal.

Minggu lalu, CEO OpenAI Sam Altman bertemu secara virtual dengan Premier B.C. David Eby dan Wali Kota Tumbler Ridge Darryl Krakowka, setelah pertemuan terpisah dengan menteri federal untuk kecerdasan buatan, Evan Solomon. Premier Eby mengatakan Altman setuju untuk meminta maaf kepada warga Tumbler Ridge dan bekerja sama dengan pemerintah provinsi dalam rekomendasi pengaturan AI.

Solomon mengatakan OpenAI berjanji untuk bekerja lebih dekat dengan otoritas Kanada, dan bahwa perubahan kebijakan sejak penembakan berarti sekarang ada ambang yang lebih rendah untuk memberi tahu penegak hukum. Sementara itu, penyelidikan koroner telah diumumkan untuk memeriksa faktor-faktor yang berkontribusi pada penembakan, termasuk peran AI; belum ada tanggal yang dibagikan untuk penyelidikan tersebut.

Sumber:

cbc.ca