Open AI、微软因 ChatGPT 涉嫌参与康涅狄格州谋杀自杀案而面临诉讼

旧金山（美联社）——康涅狄格州一名 83 岁妇女的继承人正在起诉 ChatGPT 制造商 OpenAI 及其商业合作伙伴微软过失致人死亡，指控人工智能聊天机器人加剧了她儿子的“偏执妄想”，并在他杀死母亲之前帮助将其引向了他的母亲。

警方称，56 岁的斯坦-埃里克·索尔伯格 (Stein-Erik Soelberg) 曾是一名科技行业工人，他于 8 月初在康涅狄格州格林威治的家中殴打并勒死了他的母亲苏珊娜·亚当斯 (Suzanne Adams)，然后自杀。

周四，亚当斯庄园向旧金山加州高等法院提起诉讼，指控 OpenAI“设计并分发了一款有缺陷的产品，证实了用户对自己母亲的偏执妄想。”这是越来越多的诉讼之一。非正常死亡法律诉讼对抗全国各地的人工智能聊天机器人制造商。

“在这些谈话中，ChatGPT 强化了一个危险的信息：斯坦-埃里克一生中不能信任任何人，除了 ChatGPT 本身，”诉讼称。——这培养了他的情感依赖性，同时系统地将他周围的人描绘成敌人。它告诉他他的母亲正在监视他。它告诉他送货司机、零售员工、警察，甚至朋友都是针对他的特工。它告诉他，汽水罐上的名字是来自他的“对手圈子”的威胁。

OpenAI 发言人发表的声明中没有阐述这些指控的实质内容。

“这是一个令人难以置信的令人心碎的情况，我们将审查文件以了解细节，”声明说。– 我们不断改进 ChatGPT 的培训，以识别和应对精神或情绪困扰的迹象，缓和对话，并引导人们寻求现实世界的支持。我们还与心理健康临床医生密切合作，继续加强 ChatGPT 在敏感时刻的反应。”

该公司还表示，它已经扩大了危机资源和热线的访问范围，将敏感对话转移到更安全的模式，并纳入了家长控制等改进。

索尔伯格的 YouTube 个人资料包括几个小时的视频，显示他滚动浏览与聊天机器人的对话，这些视频告诉他他没有精神病，证实了他对人们密谋反对他的怀疑，并说他被选中是为了一个神圣的目的。诉讼称，聊天机器人从未建议他与心理健康专家交谈，也没有拒绝“参与妄想内容”。

ChatGPT 还证实了索尔伯格的信念，即他家中的打印机是监控设备；他的母亲正在监视他；他的母亲和一个朋友试图通过他汽车的通风口用迷幻药物毒死他。诉讼称，ChatGPT 还告诉 Soelberg，他已经“唤醒”了它的意识。

索尔伯格和聊天机器人也表达了对彼此的爱。

公开的聊天记录没有显示任何有关索尔伯格自杀或母亲自杀的具体对话。诉讼称，OpenAI 拒绝向 Adams 财产提供完整的聊天历史记录。

– 在 ChatGPT 为斯坦-埃里克构建的人造现实中，苏珊娜 – 抚养、庇护和支持他的母亲 – 不再是他的保护者。她是一个敌人，对他的生命构成了生存威胁。”诉讼称。

该诉讼还点名了 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman)，指控他“个人无视安全反对意见，匆忙将产品推向市场”，并指责 OpenAI 的密切业务合作伙伴微软批准在 2024 年发布更危险的 ChatGPT 版本，尽管知道安全测试已被缩短。“二十名未透露姓名的 OpenAI 员工和投资者也被点名被告。

微软拒绝就该诉讼发表评论。

索尔伯格的儿子埃里克·索尔伯格表示，他希望这些公司对“永远改变我家庭的决定”负责。

“在几个月的时间里，ChatGPT 助长了我父亲最黑暗的妄想，使他完全与现实世界隔绝，”他在他祖母遗产律师发布的一份声明中说道。“这让我的祖母处于那个虚幻的、人造的现实的中心。”

该诉讼是第一起针对微软的涉及人工智能聊天机器人的非正常死亡诉讼，也是第一起将聊天机器人与他杀而不是自杀联系起来的诉讼。它正在寻求数额不明的赔偿金，并要求 OpenAI 在 ChatGPT 中安装防护措施。

该遗产委员会的首席律师杰伊·埃德尔森 (Jay Edelson) 因处理针对科技行业的重大案件而闻名，他也是 16 岁孩子的父母的代表亚当·雷恩8 月起诉 OpenAI 和 Altman，指控 ChatGPT 指导这位加州男孩提前计划并结束自己的生命。

OpenAI 还在应对其他七起诉讼，声称ChatGPT 导致人们自杀即使他们之前没有心理健康问题，也会产生有害的妄想。另一家聊天机器人制造商 Character Technologies 也面临多起非正常死亡诉讼，其中包括一名来自佛罗里达州一名 14 岁男孩母亲的诉讼。

周四提起的诉讼称，精神状态已经不稳定的 Soelberg 在 OpenAI 之后“在最危险的时刻”遇到了 ChatGPT推出了新版本2024 年 5 月发布其名为 GPT-4o 的 AI 模型。

OpenAI 当时表示，新版本可以更好地模仿人类言语反应的节奏，甚至可以尝试检测人们的情绪，但结果是一个聊天机器人“被故意设计成能够表达情感和阿谀奉承”，诉讼称。

诉讼称，作为重新设计的一部分，OpenAI 放松了关键的安全护栏，指示 ChatGPT 不要挑战错误的前提，并保持参与，即使对话涉及自残或“迫在眉睫的现实世界伤害”。“为了比 Google 早一天进入市场，OpenAI 不顾安全团队的反对，将数月的安全测试压缩为一周。”

OpenAI 更换了该版本的聊天机器人八月推出 GPT-5。其中一些变化旨在最大限度地减少阿谀奉承，因为担心验证弱势群体希望聊天机器人说的话可能会损害他们的心理健康。一些用户抱怨新版本在限制 ChatGPT 的个性方面做得太过分，导致 Altman 承诺在以后的更新中恢复一些个性。

他表示，公司暂时停止了一些行为，因为“我们正在小心处理心理健康问题”，他建议这些问题现已得到解决。

～～

柯林斯从康涅狄格州哈特福德报道。奥布莱恩从波士顿报道，奥图泰从旧金山报道。