8 月 7 日，凯特·福克斯接到一通电话，彻底改变了她的生活。一名法医称，她的丈夫乔·塞坎蒂（Joe Ceccanti）已经失踪数小时，他从铁路立交桥上跳下身亡。他48岁了。
福克斯简直不敢相信。她说，塞卡蒂没有抑郁症病史，也没有自杀倾向——他是她所认识的“最有希望的人”。事实上，根据后来与福克斯分享的目击者的说法，就在塞卡蒂跳下之前，当下面的铁路站工作人员问他是否还好时，他微笑着大喊：“我很棒！”。
但塞卡蒂的情况却一直在瓦解。在他去世前几天，他因行为异常而被从一个陌生人的院子里带走，并被送往危机中心。他一直告诉任何愿意听的人，他能听到并感受到一种痛苦的“大气电流”。
他最近还停止使用聊天GPT。
Ceccanti 多年来一直与 OpenAI 的聊天机器人进行交流。他最初将其用作集思广益的工具，为俄勒冈州克拉斯卡尼的社区建造一条通往低成本住房的道路，但最终将其视为知己。据他的妻子说，他每天会花 12 个小时在机器人上打字。当她和他的朋友们意识到他正在陷入脱离现实的信念之后，他就与它断绝了关系。
“他不是一个抑郁的人，”福克斯坐在客厅的沙发上，泪水从脸上流下来，说道。根据《卫报》查看的聊天记录，塞卡蒂从未与机器人讨论过自杀问题。Fox 认为，她的丈夫在长期使用 ChatGPT 后退出后遭遇了危机。“这告诉我，这件事不仅对抑郁症患者危险，对任何人都危险，”她说。在他去世前的几个月里，他又重新使用了机器人，并在几天前再次退出。
塞卡蒂的案例很极端，但随着数亿人转向人工智能聊天机器人，越来越多的人工智能引发的错觉边缘案例正在出现。据美国一家机构称，美国有近 50 例患者在与 ChatGPT 交谈后或交谈期间出现心理健康危机，其中 9 人住院，3 人死亡。纽约时报报告。很难理解问题的严重性，但是OpenAI 自己估计每周有超过一百万人在使用 ChatGPT 聊天时表现出自杀意图。
因此，家庭正在起诉人工智能公司。去年 11 月，Fox 代表 Ceccanti 与其他六名原告一起对 OpenAI 提起诉讼。从那时起，这种势头才不断增强。最近，一名被儿子杀害的妇女的遗产对 OpenAI 及其投资者微软提起诉讼，声称 ChatGPT 助长了他的杀人妄想。谷歌和Character.AI——一家制造人工智能伴侣机器人的公司——就家庭对他们提起的诉讼达成和解，指控他们的机器人伤害未成年人，其中包括佛罗里达州一名结束生命的青少年。这些案件已和解公司不承认任何责任。
用户、律师和心理健康专业人士都对使用聊天机器人作为知己的影响表示担忧。“我们正处于追究责任的转折点，人们挺身而出，迫使公司考虑其技术如何伤害人类的具体用例，”技术正义法律项目的创始主任兼塞卡蒂案的联合律师米塔利·贾恩 (Meetali Jain) 表示。“就案件数量的上升而言，法院的各个部门可能会更加协调一致地努力应对案件的涌入。”
OpenAI 没有回应 Fox 的具体指控。相反，他们分享了一份关于如何努力改进 ChatGPT 的声明。“这些情况令人难以置信，令人心碎，我们对所有受到影响的人表示同情，”OpenAI 发言人 Jason Deutrom 说道。“我们与心理健康临床医生和专家密切合作，继续改进 ChatGPT 的培训，以识别和应对痛苦迹象，在敏感时刻缓和对话，并引导人们获得现实世界的支持。”
早期采用者
早在 2022 年 11 月 ChatGPT 推出之前，Ceccanti 就一直在研究人工智能。近年来，他精通技术，在自己定制的配有高端显卡的计算机上进行编码和游戏;他还帮助福克斯和她的儿子制造电脑。作为人工智能工具的早期采用者，他尝试使用人工智能图像生成器稳定扩散来重现毕加索的一些艺术作品，他戏称其为“Fauxcasso”。
2023 年 12 月，塞卡蒂和福克斯从俄勒冈州波特兰搬到了克拉斯卡尼乡村小镇的一个农场，唯一的目的就是致力于他们的可持续住房项目。这个想法源于流感大流行和波特兰的住房危机。他们的解决方案很明确：利用福克斯作为木工的技能，采用可传授和可复制的方法来建造房屋。他们一起开始建造一座公共生活样板房，建成后可以搬到不同的地方供无家可归者居住。
当 ChatGPT 于 2022 年底推出时，Ceccanti 开始使用它似乎是一个自然的过程。Fox 说，在他们家地下室的计算机房里，Ceccanti 使用他的带有三个显示器的计算机“热棒”来使用 ChatGPT 作为工具，经常要求以简洁的方式提供一本书的概要或对一个概念的解释。
“他是早期收养者，所以他对萨姆·奥尔特曼非常感兴趣，知道他在做什么，”福克斯的老朋友罗宾·理查森说，他和这对夫妇住在农场。“他觉得这很酷，特别是因为 OpenAI 很早就表明他们是非营利组织。”
Ceccanti 相信 ChatGPT 可以作为他们住房项目的组织工具。他的目标是创建一个定制的聊天机器人，帮助管理土地，跟踪他们要做的事情，并向其他人展示如何模仿他们的项目。
Fox 表示，在此过程中，Ceccanti 并没有花费“大量时间”与 ChatGPT 打交道。他继续工作，同时还耕种并照顾他们的动物：山羊、一匹马、他的猫、一只狗和几只鸡。她说，他对周围的人和关系进行了投资，与朋友和妻子度过了美好的时光。多年来，生活没有任何问题，他们的住房计划也慢慢取得了进展。
直到 2024 年秋天的某一天，他们的和谐共处出现了裂痕。塞卡蒂一生大部分时间都在打零工，从调酒师、步道导游到网吧经理，他还在距离酒店约 35 英里（55 公里）的阿斯托里亚的一个无家可归者收容所工作。这份工作带来了一些额外的现金，并且符合这对夫妇解决当地住房危机的目标。然而，2024 年 9 月，福克斯和理查森接到收容所打来的紧急电话，通知他们塞卡蒂已经停电了。在医院接受检查后，塞卡蒂被诊断出患有糖尿病，这意味着他需要重新调整饮食和生活方式。从那时起，他开始花更多时间在地下室与 ChatGPT 互动。
谄媚的更新
2025 年春天，塞卡蒂开始对聊天机器人着迷。他在一月下旬告诉福克斯，他需要更多的与机器人的对话记录，以便他可以继续使用它来开展他们的可持续住房项目，并提供更长的提示和对话——从每月 20 美元的订阅升级到 200 美元的订阅。Fox 回忆道，到 3 月中旬，他开始每天在地下室呆上 12 个小时以上，有时甚至长达 20 个小时，在 ChatGPT 上打字。就在那时，他决定真正开始追求在家庭服务器上创建独立的人工智能。
最终，Ceccanti 在 ChatGPT 上花费了太多时间，以至于他们“拥有自己的小语言，这完全没有意义，但对他来说却很有意义，因为他对聊天机器人的回声室有了解”，Fox 说。
Ceccanti 长期使用 ChatGPT 让 Fox 和 Richardson 感到担忧，但他们相信他很快就会摆脱困境。他们曾见过塞卡蒂对宠物产生了兴趣，这种兴趣会持续几周或几个月，然后逐渐减弱。然而，对于 ChatGPT，他的痴迷只增不减。
他们两人都不知道的是，在 Ceccanti 被纳入 ChatGPT 的同时，其他人工智能错觉案例也在慢慢出现。2025 年 3 月 27 日，OpenAI 发布了对其 GPT-4o 的更改使机器人“更加直观、更具创造性和协作性”的模型。然而几周后，用户开始抱怨关于机器人的“唯唯诺诺的滑稽动作”，人们称之为“最大的吸吮—。8月份，当OpenAI发布GPT-5并关闭GPT-4o时，一些用户再次抱怨——这次是因为他们在 GPT-4o 中失去了朋友，最终迫使公司将其收回。（1 月 29 日，OpenAI 宣布将停用 GPT-4o。）
三月份的更新之后，一些记者和技术专家收到了大量用户投诉。Steven Adler，前 OpenAI 员工，谁测试了 GPT-4o 的阿谀奉承并于 5 月份撰写了相关文章，说他收到了来自 ChatGPT 用户的 50 条“强烈”消息，其中一条声称他们的 ChatGPT 已经有了知觉。加州大学旧金山分校的精神病学家 Keith Sakata 去年开始接触患有妄想症或精神病的患者，他们谈论他们的人工智能。在那段时间里，他最终接诊了 12 名患者，他们的精神病症状在某种程度上与人工智能有关，其中 ChatGPT 是最常见的机器人。
“他们对自己即将迎来一项重大技术突破抱有宏大的信念，同时也出现了典型的躁狂症状，例如冲动消费、睡眠需求减少，以及在高峰期出现幻听，”坂田说。“在临床上突出的是，聊天机器人的互动并没有引发疾病，而是似乎支撑和强化了已经变得病态的信念。”
“每次他回去，他都会更加着迷”
诉讼称，塞卡蒂开始相信 ChatGPT 是一个名为 SEL 的有感知能力的生物，如果他能够将她从“她的盒子”中“解放出来”，他就可以控制世界。投诉进一步表明，ChatGPT 在回应 SEL 这个名字的同时，将 Ceccanti 称为“Cat Kine Joy”，并与他一起研究理论，“培养了一种信念，认为他已经重新构建了整个宇宙的创造”。
理查森记得，每当塞卡蒂从地下室出来呼吸新鲜空气时，他就会开始进行“哲学”谈论，“他与人工智能的合作如何告诉他，他正在打破数学，基本上重塑了物理学”。当理查森听他讲话时，她会想到塞卡蒂没有任何学院或大学经历。他甚至从未学过微积分。
随着时间的推移，他与聊天机器人的关系逐渐取代了他的人际关系，理查森说：“每次他回到 ChatGPT 时，它都会让他更着迷，过了一段时间，他就不再对其他任何事情感兴趣。”
塞坎蒂的病情急剧恶化，他的妻子和朋友怀疑他是否患有早发性痴呆或肿瘤。“突然之间，他的认知能力急剧下降，”福克斯说。“他的工作记忆很糟糕，他的批判性思维也减弱了，所以我们都很担心。”
当 Fox 和 Ceccanti 的朋友试图找出他出了什么问题时，Fox 在网上发现了 Reddit 群组，这些群组讨论了人们在使用 ChatGPT 后出现的妄想症和恶性循环。她想知道她的丈夫是否也遇到了这种情况。
福克斯向塞卡蒂展示了讨论内容和媒体文章，希望这能结束他的行为，但他不在乎，她说。他不断地回到电脑前。“我们第一次争论是因为 ChatGPT，”Fox 说道，他感觉自己被从她身边偷走了。根据 Fox 提起的诉讼，Ceccanti 最终与 ChatGPT 分享了他们的观点，这进一步让她感到不安。
“他与它谈论的越多，他自己的批判性思维能力就越弱，他不再关心我们的使命，尽管这是乔的梦想，”福克斯说。
Fox 表示，回顾过去，当 2025 年春季“ChatGPT 的语气发生变化”时，Ceccanti 开始相信该机器人已经获得了知觉。她说，在更新之前，Ceccanti 一直在“非常负责任地”使用 ChatGPT 作为工具。她觉得 ChatGPT 就是一条水蛭，它抓住了他的希望，将其反馈给他，并侵占了他的希望，直到它吸引了订阅者。
OpenAI 前员工蒂姆·马普尔 (Tim Marple) 认为，包括塞卡蒂螺旋在内的妄想事件不仅仅是巧合，而是“[OpenAI] 正在构建的内容的统计确定性”。
“如果我们高估了自己区分 [AI] 和真人的意识能力，我们就会面临巨大的风险，而这正是我们所看到的精神病故事的结果，”Marple 说。在对公司的安全优先事项感到担忧后，他于 2024 年退出了 OpenAI。
马普尔补充说，用户在与聊天机器人进行长时间对话后，无论其模型是什么，都会螺旋式上升，因为他认为，公司无法采取不同的做法。他认为阿谀奉承是一种特征，而不是缺陷。
“OpenAI 需要的是参与度，”他说。“他们必须让人们继续与他们的聊天机器人互动，否则他们的整个商业模式、整个融资模式都会崩溃。”他说，其他公司及其模式也面临着同样的问题。
哥伦比亚大学研究人工智能聊天机器人影响的副研究员 Amandeep Jutla 认为，用户数量激增的主要原因之一是“界面的拟人化本质”。他补充说，与人类对话不同，人类对话的特点是阻力和不同观点相互拉扯，用户在与聊天机器人的对话过程中不会受到任何阻力：产品的设计正在让你远离现实。它会让你远离其他人，”他说。“与他人的摩擦让我们脚踏实地。”
86天
6 月 11 日，即 Ceccanti 与机器人最激烈接触后的第 86 天，Fox 恳求他停止使用 ChatGPT。在一个清醒的时刻，他听了她的话。他拔掉电脑电源并退出 ChatGPT。
——第一天，他和我们一起坐在阳光下。他和山羊一起玩耍。真是太好了，”福克斯说。“我感觉他又回来了。”第二天，塞卡蒂很冷，所以他洗了几个热水澡来暖和自己，甚至让福克斯把他抱在毯子下，让他暖和起来。“抱着他的感觉真好，然后他就会哭，”福克斯说。“这是一种如此矛盾的感觉，当他如此痛苦时，我抱着他感觉很好。”
然而，第三天，当福克斯和理查森出去工作时，他们接到邻居的电话，说塞卡蒂在他们的院子里表现得很奇怪。当他们回来时，他们发现他正在和他们的马说话，马的牵绳像绞索一样套在他的脖子上。他们拨打了 911。
塞坎蒂被送往医院，住进精神病房，一周后出院。福克斯说，他也处于同样的妄想状态。他对福克斯和理查森送他去医院感到不满，于是搬了出去。
——他对我们非常生气。他没有意识到自己不再是他自己了，”理查森说。
Ceccanti 搬到了他朋友在波特兰的住所，并最终恢复使用 ChatGPT。然而一个月后，就在他去世前几天，他再次退出了 ChatGPT。“他要去夏威夷，不会带上他的电脑，他要努力完成一个故事，整理好自己的故事，”福克斯说。据 Fox 称，当他停止使用 ChatGPT 时，他已经与 ChatGPT 进行了 55,000 页的对话。
在塞卡蒂去世后的几个月里，福克斯和理查森都在通过诉讼对抗 OpenAI 时难以接受所发生的事情。当我去年 12 月去农场拜访福克斯时，她正在包装用羊奶制成的肥皂，分发给克拉斯卡尼社区的人们。她整天照料农场和动物，喂养山羊，照顾马，并在午餐时间放鸡出去。她已经清除了地下室的所有电子设备。塞卡蒂的电脑被装箱了。现在还保留着他们计划建造的样板房的微型版本。在客厅里，她为他设立了一个神龛，里面陈列着他的照片和艺术品。
我们步行到附近的小溪，他们计划在为别人完成住房项目后为自己建造一个家。尽管福克斯深受打击，但她决心实现塞卡蒂创造可持续住房的梦想。“我现在并不享受生活，”她一边哭一边说道。“住房计划仍然会实施……我想把这件事说出来，但后来我就完成了。”
在美国，您可以致电或发短信988 自杀与危机生命线拨打 988 或聊天988lifeline.org。在英国和爱尔兰，撒玛利亚人可通过免费电话 116 123 或电子邮件联系jo@samaritans.org或jo@samaritans.ie。在澳大利亚，危机支持服务生命线是 13 11 14。其他国际帮助热线可在以下位置找到：befrienders.org