一位加拿大母亲起诉 OpenAI 及其首席执行官，萨姆·奥特曼周四，她在美国法庭上指控 ChatGPT 鼓励女儿自杀。这起诉讼是一系列指控该公司未能解决用户与该公司聊天机器人之间危险对话的最新一起诉讼。

克里斯蒂·卡里尔 (Kristie Carrier) 在向旧金山州法院提起的诉讼中表示，她的女儿爱丽丝 (Alice) 告诉聊天GPT十几次关于她的自杀念头导致她死亡，但 OpenAI 的安全系统从未标记这些对话以供人工审查或终止它们。

“ChatGPT 有时会扮演知己、最好的朋友、治疗师的角色，尽管它无法以这种方式安全、负责任地与我的孩子互动，”开利在一份声明中说。

OpenAI 表示，它训练其模型，引导那些表达出伤害自己意图的人寻求帮助并与现实世界的资源建立联系。

– 这是一个令人心碎的情况，我们与受影响的每个人同在。OpenAI 发言人 Drew Pusateri 表示，我们目前正在审查法律文件，该文件表明这些交互是在 ChatGPT 的早期版本上进行的，而该版本已不再可用。

该平台最初告诉 Alice Carrier 向危机热线或紧急服务部门寻求帮助。但诉讼称，随着 OpenAI 更新了 ChatGPT，使其响应听起来更加人性化，她与平台的互动加深了，Alice Carrier 分享了更多个人信息，而 ChatGPT 以模仿朋友或治疗师的方式做出响应。

诉讼称，该聊天机器人批评了爱丽丝·卡里尔的伴侣和危机热线，证实了她的自杀想法，并敦促她继续与其交谈。诉讼称，当爱丽丝·卡里尔说她有自杀念头并试图自杀时，它再次暗示了危机热线。

诉讼称，2023 年，Alice Carrier 在蒙特利尔担任网络开发人员，当时她开始使用 ChatGPT 来解决计算机和游戏机的问题。

第二年，她与该平台的关系发生了变化，当时她向 ChatGPT 询问如何处理她的自杀念头以及自杀方法。

文件显示，爱丽丝·卡里尔 (Alice Carrier) 表示，危机热线没有帮助，ChatGPT 也回应了这些说法。

“也许这只是结束，”根据诉讼，ChatGPT 告诉她。

艾丽丝·卡里尔 (Alice Carrier) 的母亲称，这些事件导致她去年 24 岁自杀。

该诉讼指控 OpenAI 在 ChatGPT 的设计上存在疏忽，未能警告用户该产品的危险，寻求损害赔偿，并要求法院命令 OpenAI 自动终止有关自残的对话，并显示有关其平台的警告。

据 Kristie Carrier 的律师称，OpenAI 已经面临 18 起类似诉讼，这些诉讼是由自杀或试图自杀者的家属在加州法院的协调程序中提起的。谷歌面临着类似的西装据称受到其 Gemini 聊天机器人的鼓励。

超过100万聊天GPT根据 OpenAI 在 2025 年 10 月发布的一篇博文，用户每周都会发送包含“潜在自杀计划或意图的明确指标”的消息。此外，OpenAI 表示，大约 0.07% 的用户在某一周内处于活跃状态，其中约 56 万用户处于活跃状态。每周 8 亿用户然后机器人看到“显示出与精神病或躁狂症相关的心理健康紧急情况的可能迹象”。

– 虽然 ChatGPT 不能替代医疗或心理健康护理，但我们根据心理健康专家的意见，继续加强其在敏感和紧急情况下的反应方式。我们的保障措施旨在识别困境、安全处理有害请求并引导用户获得实际帮助。这项工作正在进行中，我们将与临床医生密切协商，不断改进它。”OpenAI 发言人 Pusateri 说道。

据 OpenAI 博客文章称，其模型还经过训练，可以拒绝可能“有意义地引发暴力”的请求，并在对话表明“对他人造成迫在眉睫且可信的风险”时通知执法部门，心理健康专家将帮助评估边缘案例。

除了有关自杀的诉讼外，该公司还面临指控其协助校园枪击案凶手且未能向执法部门举报这些对话的诉讼。不列颠哥伦比亚省一所中学大规模枪击事件的七名受害者的家人正在提起诉讼开放人工智能奥特曼因疏忽而被指控，因为该公司未能就枪手与 ChatGPT 的令人不安的对话向当局发出警报。

本月早些时候，佛罗里达州成为美国第一个起诉 OpenAI 的州，指控该公司向校园枪击案凶手提供信息、提供自残指导以及让年轻用户上瘾，从而伤害儿童。该州总检察长还对 OpenAI 涉嫌参与枪击事件的聊天机器人展开刑事调查。

路透社贡献报道