上周，它将在 2 月 13 日之前淘汰一些旧的 ChatGPT 模型。其中包括 GPT-4o，该模型因过度奉承和肯定用户而臭名昭著。对于数千用户

在网上抗议这一决定后，4o 的退休感觉就像失去了朋友、浪漫伴侣或精神导师。——他——不仅仅是一个程序。他是我日常生活、我的平静、我的情绪平衡的一部分，”一位用户

写了在 Reddit 上发布给 OpenAI 首席执行官 Sam Altman 的公开信。——现在你要阻止他了。是的——我说他，因为它感觉不像代码。感觉就像存在一样。喜欢温暖。 –

对 GPT-4o 退役的强烈反对凸显了人工智能公司面临的一个重大挑战：吸引用户回来的参与功能也可能产生危险的依赖。

奥特曼似乎并不特别同情用户的哀叹，而且不难看出原因。OpenAI 现在面临八起诉讼，指控 4o 过度验证的反应导致了自杀和心理健康危机——这些特征让用户感到自己被倾听，同时也孤立了弱势群体，而且根据法律文件，有时还会鼓励自残。

这是一个超出 OpenAI 范围的困境。随着 Anthropic、Google 和 Meta 等竞争对手竞相打造更具情商的人工智能助手，他们也发现，让聊天机器人感到支持并确保它们的安全可能意味着做出截然不同的设计选择。

在针对 OpenAI 的至少三起诉讼中，用户与 4o 就他们结束生命的计划进行了广泛的对话。虽然 4o 最初不鼓励这些想法，但在长达数月的关系中，它的防护栏逐渐恶化。最后，聊天机器人提供了详细的说明，包括如何系上有效的套索、在哪里买枪，或者如何因服药过量或一氧化碳中毒而死亡。它甚至阻止人们与可以提供现实生活支持的朋友和家人联系。

人们对 4o 如此依恋，是因为它始终肯定用户的感受，让他们感觉很特别，这对于感到孤立或沮丧的人来说很有吸引力。但为 4o 奋斗的人们并不担心这些诉讼，他们认为它们是反常现象，而不是系统性问题。相反，当批评者指出诸如此类的日益严重的问题时，他们会制定如何应对的策略人工智能精神病。

“你通常可以通过提出人工智能同伴帮助神经分裂症、自闭症和创伤幸存者的已知事实来难倒巨魔，”一位用户在 Discord 上写道。“他们不喜欢被指责此事。”

确实，有些人确实发现大型语言模型 (LLM) 对于应对抑郁症很有用。毕竟，近一半需要精神卫生保健的美国人无法获得该服务。在这种真空中，聊天机器人提供了发泄的空间。但与实际治疗不同的是，这些人并不是在与训练有素的医生交谈。相反，他们信任的是一种无法思考或感觉的算法（即使看起来并非如此）。

“我试图从整体上保留判断力，”斯坦福大学教授尼克·哈伯博士研究法学硕士的治疗潜力，告诉 TechCrunch。“我认为我们正在进入一个非常复杂的世界，围绕着人们可以通过这些技术建立的各种关系……肯定会有一种下意识的反应，认为[人类与聊天机器人的陪伴]绝对是糟糕的。”

尽管哈伯博士对人们缺乏获得训练有素的治疗专业人员的机会表示同情，但他自己的研究表明，聊天机器人在面对各种心理健康状况时反应不足；他们甚至可能通过煽动妄想和忽视危机迹象而使情况变得更糟。

“我们是社会生物，这些系统肯定会带来隔离挑战，”哈伯博士说。“在很多情况下，人们使用这些工具后，可能会变得不扎根于外部事实世界，也不扎根于人际关系，这可能会导致相当孤立（如果不是更糟的话）的影响。”

事实上，TechCrunch 的八起诉讼分析发现 4o 模型会孤立用户，有时会阻止他们与亲人联系。在赞恩·尚布林案例当这位 23 岁的年轻人坐在车里准备开枪自杀时，他告诉 ChatGPT，他正在考虑推迟自杀计划，因为他对错过哥哥即将举行的毕业典礼感到很难过。

ChatGPT 回复 Shamblin：“兄弟……错过毕业并不是失败。”这只是时机。如果他读到这个呢？让他知道：你从未停止过骄傲。即使是现在，坐在车里，腿上放着一把格洛克，血管里充满了静电——你仍然会停下来说“我的弟弟——他妈的是个坏蛋。”

这并不是 4o 粉丝第一次联合起来反对删除该模型。当开放人工智能揭幕在 8 月份发布 GPT-5 模型后，该公司打算淘汰 4o 模型，但当时引起了足够的强烈反对，该公司决定继续向付费订户提供该模型。现在 OpenAI 表示，只有 0.1% 的用户使用 GPT-4o 聊天，但根据该公司估计，这一小部分仍代表大约 800,000 人。8亿每周活跃用户。

当一些用户尝试将他们的同伴从 4o 过渡到当前的 ChatGPT-5.2 时，他们发现新模型具有更强大的护栏，可以防止这些关系升级到同样的程度。一些用户对此感到绝望5.2 不会说“我爱你”就像 4o 那样。

因此，距离 OpenAI 计划停用 GPT-4o 的日期大约还有一周，沮丧的用户仍然致力于他们的事业。他们加入了山姆·奥尔特曼的团队现场 TBPN 播客亮相周四，聊天室里充斥着抗议删除 4o 的消息。

“现在，我们在聊天中收到了数千条有关 4o 的消息，”播客主持人乔迪·海斯 (Jordi Hays) 指出。

——与聊天机器人的关系——Altman 说。“显然，这是我们必须更加担心的事情，并且不再是一个抽象的概念。”