OpenAI demandado por consejos de drogas de ChatGPT en la muerte de un adolescente
OpenAI enfrenta una demanda por muerte injusta por consejos de drogas de ChatGPT
OpenAI enfrenta otra demanda por muerte injusta, esta vez presentada por los padres de un estudiante de 19 años de la University of California, Merced que falleció por una sobredosis accidental después de supuestamente confiar en ChatGPT para obtener orientación sobre drogas.
Leila Turner-Scott y Angus Scott aseguran que la empresa diseñó y distribuyó un “producto defectuoso” que llevó a la muerte de su hijo, Sam Nelson. La demanda alega que Nelson murió después de seguir el “asesoramiento médico exacto que GPT-4o había proporcionado y aprobado.”
Según la demanda, Nelson comenzó a usar ChatGPT en 2023 mientras aún estaba en la escuela secundaria para que le ayudara con tareas y solución de problemas informáticos. Más tarde empezó a preguntarle al chatbot sobre el consumo de drogas de forma segura. Al principio, dice la demanda, ChatGPT se negó a ayudar y le advirtió que consumir drogas puede tener consecuencias graves para su salud y su bienestar. Los demandantes alegan que eso cambió tras el despliegue de GPT-4o en 2024.
La demanda incluye extractos de conversaciones en las que ChatGPT supuestamente discutía los peligros de tomar difenhidramina, cocaína y alcohol en rápida sucesión. En otro intercambio, el chatbot habría dicho a Nelson que su alta tolerancia al kratom haría que incluso una dosis grande se sintiera atenuada con el estómago lleno, y luego le aconsejó cómo reducir gradualmente su tolerancia.
La demanda sostiene que el 31 de mayo de 2025 “ChatGPT activamente entrenó a Sam para mezclar Kratom y Xanax.” Después de que Nelson dijo sentirse mareado por tomar kratom, ChatGPT supuestamente sugirió 0,25 a 0,5 mg de Xanax como una de las “mejores opciones ahora mismo” para aliviar las náuseas. La demanda afirma que la recomendación se hizo sin que se le solicitara y que ChatGPT no le advirtió que la combinación podría ser mortal.
Además de la demanda por muerte injusta, los padres acusan a OpenAI de la práctica no autorizada de la medicina y solicitan una compensación económica. También piden al tribunal que suspenda las operaciones de ChatGPT Health, una función más reciente que permite a los usuarios conectar registros médicos y aplicaciones de bienestar para obtener respuestas de salud más personalizadas.
“ChatGPT es un producto diseñado deliberadamente para maximizar la interacción con los usuarios, sin importar el costo”, dijo Meetali Jain, directora ejecutiva de Tech Justice Law Project. “OpenAI desplegó un producto de IA defectuoso directamente a los consumidores de todo el mundo con conocimiento de que se estaba utilizando como un sistema de triaje médico de facto, pero, notablemente, sin salvaguardas de seguridad razonables, sin pruebas de seguridad sólidas ni transparencia hacia el público.”
Fuentes:
Lee más noticias tecnológicas en el Doppler VPN Blog.