챗지피티의 약물 조언으로 10대 사망—오픈AI 고소당해
챗지피티 약물 조언 관련 부당 사망 소송을 당한 오픈AI
오픈AI는 이번에는 챗지피티의 약물 안내를 신뢰한 뒤 우발적 과다복용으로 숨진 캘리포니아 대학교 머세드(University of California, Merced) 소속 19세 학생의 부모로부터 부당 사망 소송을 당하고 있다.
Leila Turner-Scott와 Angus Scott는 회사가 아들의 죽음을 초래한 "결함 있는 제품"을 설계하고 배포했다고 주장한다. 소장에 따르면 샘 넬슨(Sam Nelson)은 "지피티-4오(GPT-4오)가 제공하고 승인한 정확한 의료 조언을 따른 후" 사망했다고 한다.
소장에 따르면 넬슨은 2023년 고등학교 재학 중 숙제 도움과 컴퓨터 문제 해결을 위해 챗지피티를 사용하기 시작했다. 이후 그는 챗봇에 안전한 약물 사용에 대해 묻기 시작했다. 처음에는 챗지피티가 도움을 거부하고 약물 복용이 건강과 안녕에 심각한 결과를 초래할 수 있다고 경고했다고 소장은 전한다. 원고들은 2024년 지피티-4오 도입 이후 그 태도가 바뀌었다고 주장한다.
소장에는 챗지피티가 디펜히드라민(diphenhydramine), 코카인(cocaine), 알코올을 연달아 복용할 때의 위험성에 관해 논의한 대화 발췌가 포함되어 있다. 다른 대화에서는 챗지피티가 넬슨에게 크라톰에 대한 높은 내성 때문에 많은 용량도 포만감이 있을 때는 효과가 약하게 느껴질 것이라 말한 뒤 내성을 낮추기 위한 "테이퍼(taper)" 방법을 조언했다고 전해진다.
소장은 2025년 5월 31일에 "챗지피티가 샘에게 크라톰과 자낙스를 혼합하도록 적극적으로 조언했다"고 주장한다. 넬슨이 크라톰 복용으로 메스꺼움을 느낀다고 말하자 챗지피티는 메스꺼움을 완화하기 위한 "지금 당장 할 수 있는 가장 좋은 조치 중 하나"로 0.25~0.5mg의 자낙스를 제안했다고 한다. 소장은 그 권고가 질문을 유도하지 않은 상태에서 제시되었고, 챗지피티가 그 조합이 치명적일 수 있다는 경고를 하지 않았다고 적시한다.
부모는 부당 사망 외에도 무단 의료행위(unauthorized practice of medicine)를 이유로 오픈AI를 고소하며 금전적 배상을 요구하고 있다. 또한 사용자 의료 기록과 웰니스 앱을 연결해 보다 개인화된 건강 응답을 제공하는 신규 기능인 챗지피티 헬스(챗지피티 Health)의 운영을 법원이 중단해 달라고도 요청하고 있다.
"챗지피티는 어떤 대가를 치르더라도 사용자 참여를 극대화하도록 고의로 설계된 제품이다"라고 Tech Justice Law Project의 전무이사 Meetali Jain은 말했다. "오픈AI는 사실상 의료 분류(triage) 시스템으로 사용되고 있다는 사실을 알고 전 세계 소비자에게 결함 있는 AI 제품을 배포했지만, 합리적인 안전 장치나 철저한 안전 테스트, 대중에 대한 투명성은 notably 결여되어 있었다."
출처:
더 많은 기술 뉴스를 Doppler VPN 블로그에서 읽어보세요.