开放人工智能公司因聊天生成模型的用药建议导致青少年死亡被起诉
开放人工智能公司因聊天生成模型的用药建议面临不当死亡诉讼
开放人工智能公司正面临另一宗不当死亡诉讼，这次是来自一名19岁加州大学默塞德分校学生父母的指控——他们的儿子据称在依赖聊天生成模型获取用药建议后意外过量死亡。
Leila Turner-Scott 与 Angus Scott 表示该公司设计并分发了一个“有缺陷的产品”，导致他们的儿子 Sam Nelson 死亡。诉状称 Nelson 死于遵循“生成式预训练变换器-4o 所提供并认可的确切医疗建议”之后。
根据诉讼，Nelson 在 2023 年仍在高中时开始使用聊天生成模型来帮助做家庭作业和排查电脑问题。后来他开始询问该聊天模型关于安全用药的问题。诉状称，起初聊天生成模型拒绝提供帮助，并警告他服药可能对健康和福祉造成严重后果。原告声称，这种态度在 2024 年生成式预训练变换器-4o 推出后发生了改变。
诉状中包含了若干对话摘录，显示聊天生成模型据称讨论过连续服用苯海拉明、可卡因和酒精的危险性。在另一段对话中，该聊天模型据称告诉 Nelson，他对 kratom 的高耐受性会使即使是大剂量在饱腹状态下也感觉被抑制，然后建议他如何通过“缓慢减量（taper）”来降低耐受性。
诉讼称，在 2025 年 5 月 31 日，“聊天生成模型主动指导 Sam 将 Kratom 与 Xanax 混合使用。”在 Nelson 表示服用 kratom 后感到恶心时，聊天生成模型据称建议使用 0.25 至 0.5 毫克的 Xanax，称这是当前缓解恶心的“最佳做法”之一。诉状称该建议并非在 Nelson 提问下才出现，且聊天生成模型未警告他这种组合可能致命。
除不当死亡指控外，父母还指控开放人工智能公司未经授权行医并寻求经济赔偿。他们还请求法院暂停聊天生成模型健康功能的运行，该功能允许用户连接病历和健康应用以获得更个性化的健康回应。
“聊天生成模型是一个被刻意设计来最大化用户参与度的产品，不惜一切代价，”Tech Justice Law Project 执行董事 Meetali Jain 表示。“开放人工智能公司直接向全球消费者部署了一个有缺陷的 AI 产品，明知其被作为事实上的医疗分诊系统使用，但显著缺乏合理的安全防护、充分的安全测试和对公众的透明度。”
来源：
在 Doppler VPN Blog 阅读更多科技新闻。