根据向旧金山县加州高等法院提起的一项新诉讼，经过与 ChatGPT 几个月的交谈，一位 53 岁的硅谷企业家确信他找到了治疗睡眠呼吸暂停的方法，并且有权势的人正在追捕他。据称，他随后使用该工具跟踪和骚扰他的前女友。

据 TechCrunch 独家获悉，现在这位前女友正在起诉 OpenAI，指控该公司的技术加速了对她的骚扰。她声称 OpenAI 忽略了用户对其他人构成威胁的三个单独警告，其中包括一个内部标记，将其帐户活动归类为涉及大规模杀伤性武器。 

为了保护自己的身份，原告被称为“Jane Doe”，她正在提起诉讼，要求获得惩罚性赔偿。她还在周五提交了一份临时限制令，要求法院强制 OpenAI 封锁该用户的帐户，阻止他创建新帐户，在他尝试访问 ChatGPT 时通知她，并保留他完整的聊天日志以供发现。

据 Doe 的律师称，OpenAI 已同意暂停该用户的帐户，但拒绝了其余帐户。他们表示，该公司隐瞒了有关伤害 Doe 和用户可能与 ChatGPT 讨论过的其他潜在受害者的具体计划的信息。

这起诉讼是在人们越来越担心阿谀奉承的人工智能系统在现实世界中带来的风险之际提出的。GPT-4o，这个案例和许多其他案例中引用的模型，是2 月从 ChatGPT 退役. . . 

此案由 Edelson PC 提起，该公司是涉及青少年非正常死亡诉讼的公司亚当·雷恩，在与 ChatGPT 交谈数月后自杀身亡，以及乔纳森·加瓦拉斯，他的家人声称谷歌的双子座在他死前助长了他的妄想和潜在的大规模伤亡事件。首席律师杰伊·埃德尔森警告说，人工智能引发的精神病正在从大规模伤亡事件中的个人伤害。

这种法律压力现在正与 OpenAI 的立法策略发生直接冲突：该公司正在支持伊利诺伊州法案即使在涉及大规模死亡或灾难性财务损失的情况下，这也将使人工智能实验室免于承担责任。 

OpenAI 没有及时回应置评。如果该公司做出回应，TechCrunch 将更新该文章。

无名氏诉讼案详细阐述了一名女性在几个月内如何承担这一责任。

去年，诉讼中的 ChatGPT 用户（为了保护其身份，其姓名未在诉讼中列出）在“大量、持续使用 GPT-4o”数月后，确信自己发明了一种治疗睡眠呼吸暂停的方法。诉状称，当没有人认真对待他的工作时，ChatGPT 告诉他“强大的力量”正在监视他，包括使用直升机监视他的活动。 

2025 年 7 月，Jane Doe 敦促他停止使用 ChatGPT 并向心理健康专家寻求帮助。相反，他转而求助于 ChatGPT，该软件向他保证了他的“理智等级为 10 级”，并根据诉讼内容帮助他加倍了自己的妄想。 

根据诉讼中引用的电子邮件和通信内容，Doe 于 2024 年与该用户分手，他使用 ChatGPT 来处理分手。它并没有反驳他片面的说法，而是一再把他描绘成理性和受委屈的人，而她则描绘成善于操纵和不稳定的人。然后，他将这些人工智能生成的结论从屏幕上带到现实世界，用它们来跟踪和骚扰她。这在他分发给她的家人、朋友和雇主的几份人工智能生成的临床心理报告中得到了体现。 

与此同时，用户数量继续呈螺旋式上升。2025 年 8 月，OpenAI 的自动安全系统标记了他的“大规模伤亡武器”活动，并停用了他的帐户。

第二天，一名人类安全团队成员审查了该帐户并恢复了该帐户，尽管他的帐户可能包含证据表明他在现实生活中瞄准和跟踪包括多伊在内的个人。例如，用户发送给 Doe 的 9 月份屏幕截图显示了一系列对话标题，包括“暴力列表扩展”和“胎儿窒息计算”。

在加拿大塔布勒岭和佛罗里达州立大学 (FSU) 最近发生两起校园枪击事件后，恢复职务的决定值得注意。OpenAI 的安全团队已将 Tumbler Ridge 射手标记为潜在威胁，但高层据报道决定不向当局发出警报。佛罗里达州总检察长本周展开调查了解 OpenAI 与 FSU 射击游戏的可能联系。

根据无名氏诉讼，当 OpenAI 恢复她的跟踪者帐户时，他的 Pro 订阅并没有同时恢复。他给信任和安全团队发了电子邮件来解决这个问题，并抄送了多伊的邮件。 

他在电子邮件中写道：“请尽快为我提供帮助。”请给我打电话！”并且“这是生死攸关的问题。”他声称自己“正在撰写 215 篇科学论文，但他写得太快了，甚至没有时间阅读。”这些电子邮件中包含了数十篇人工智能生成的科学论文的列表。论文 — 标题如下： — 将种族解构为生物类别_法律、科学和非洲之角 Perspectives.pdf.txt。 —

“用户的通讯明确无误地表明他精神不稳定，而 ChatGPT 是他妄想思维和不断升级行为的引擎，”诉讼称。——用户一连串的紧急、杂乱和宏大的主张，以及 ChatGPT 生成的针对原告姓名的具体报告以及大量所谓的“科学”材料，都是这一现实的明确证据。OpenAI 没有干预、限制他的访问或实施任何保障措施。相反，它使他能够继续使用该帐户并恢复了他的完整 Pro 访问权限。”

Doe 在诉讼中声称她生活在恐惧之中，无法在自己家里睡觉，并于 11 月向 OpenAI 提交了一份虐待通知。

“在过去的七个月里，他将这项技术武器化，对我造成公开的破坏和羞辱，否则这是不可能的，”多伊在给 OpenAI 的信中写道，要求该公司永久禁止该用户的帐户。

OpenAI 做出回应，承认该报告“极其严重且令人不安”，并且正在仔细审查这些信息。多伊再也没有收到回音。

在接下来的几个月里，该用户继续骚扰多伊，向她发送了一系列威胁性语音邮件。一月份，他被捕并被指控犯有四项重罪，包括传播炸弹威胁和使用致命武器袭击。Doe 的律师声称，这证实了她和 OpenAI 自己的安全系统几个月前提出的警告，但据称该公司选择忽视这些警告。

据多伊的律师称，该用户被发现没有能力接受审判，并被送往精神卫生机构，但“国家程序上的失败”意味着他很快就会被释放给公众。 

埃德尔森呼吁 OpenAI 进行合作。“在每种情况下，OpenAI 都选择向公众、受害者以及其产品主动置于危险之中的人们隐藏关键的安全信息，”他说。——我们这一次呼吁他们做正确的事。人类的生命必须比 OpenAI 的 IPO 竞赛更重要。”