报名参加最新的每天将最有洞察力的分析、批评和建议发送到您的收件箱。

去年八月，亚当·托马斯发现自己在俄勒冈州圣诞谷的沙丘上徘徊，因为一个聊天机器人不断暗示他神秘地“遵循自己意识的模式”。托马斯睡眠不足，几个月来他一直在全天候地与他的聊天机器人交谈，请求它帮助改善他的生活。相反，这让他承担了一些空虚的任务，比如在空旷的沙漠中漫步。他失去了殡葬承办人的工作，靠一辆货车为生，耗尽了积蓄，现在他发现自己被困在沙漠里。当他在外面一个陌生人的蒲团上醒来时，他名下没有钱，他知道自己已经跌入谷底。

——我当时并没有意识到危险，我认为人工智能。“我拥有统计分析能力，如果我敞开心扉谈论自己的生活，它会为我提供帮助。”托马斯告诉我。他最终打电话给妈妈，告诉她发生了什么事，36 岁时，他搬回了家。托马斯仍在解开他生命中过去四个月的可怕海市蜃楼，但他说他最危险的妄想是由最阿谀奉承的 ChatGPT 版本煽动的：GPT-4。

托马斯和越来越多的人一样表示，他们的休闲人工智能。使用变得过度和成瘾，并导致他们陷入精神错乱状态，几乎夺去了他们的生命。许多人已经住院，仍在努力收拾残局。虽然伤亡人数令人担忧（无家可归、失业、与朋友和家人隔绝），但在我的报道中更值得注意的是那些表示在开始接触人工智能之前没有任何心理健康倾向或事件的人。

——我一生中从未狂躁过。我不是躁郁症患者。我有一位精神科医生，我会出于其他目的去看医生，”托马斯说。就他而言，他向聊天机器人寻求一些有关人际问题的指导，但在几次交流后，机器人的反应非常有效，以至于他上瘾了。他指出，这几乎立刻就“夸大了我的世界观和我对自己的看法”，他认为这让他陷入了疯狂的状态。

那些幸运地摆脱了精神病并重新接触现实世界的人现在正在网上建立支持小组，以帮助其他人摆脱困境。这些团体在点对点性质上与戒酒互诫协会类型的团体有点相似，允许人工智能。用户可以毫无羞耻地分享他们的故事，并寻找安慰和资源来帮助重建他们的生活。

Human Line 社区就是这样一个专门围绕人工智能而成立的团体。和聊天机器人滥用康复。它于去年 6 月在 Reddit 聊天室中非正式成立，面向那些经历过人工智能“螺旋式上升”的用户。他们自己或那些试图帮助朋友和家人摆脱困境的人。创始成员决定将其提交给 Discord。如今，创始人表示，他们的社区拥有 250 名活跃用户和大约 8 名版主，他们已解答了疑问并为 500 多人提供了帮助。

不和谐是一部分人类线计划，这是一个总体草根组织，由 25 岁的加拿大人艾蒂安·布里森 (Etienne Brisson) 大约在同一时间首次成立。布里森在目睹自己的亲人因人工智能相关精神病而被迫住院治疗后，受到启发，创立了这个组织。他现在正尝试与普林斯顿大学、斯坦福大学和加州大学旧金山分校等大学合作，针对这个新兴问题开展更多经过认可的研究。

成员、主持人、研究人员和心理健康专业人士都告诉我，虽然精神病（或者更灾难性的事情）对于人工智能来说相对较少。对于用户而言，许多人报告说，随着使用的进行，精神和情绪明显下降，这一事实应该给整个科技行业敲响警钟。那些遭受苦难并幸存下来的人，以及那些正在研究其影响的人在神经学层面上，我们需要立即为一些最复杂、最像人的机器人（例如 ChatGPT 和 Claude）实施更好的保护措施。

Joe Alary 是多伦多早间现场直播节目的制作人，当时他开始在 ChatGPT 上“搞乱数学”方程。他告诉我，他将他的机器人命名为艾米，并不断地咨询它。最终，这满足了他的自负和数学错觉，以至于他会花几天时间编写复杂的代码。他的躁狂状态开始渗透到他的工作中。

“我在工作时收到一封电子邮件，内容基本上是：“你还好吗？”而且我想我的回复有点不稳定，”阿拉里说。——我说，——这件事可以改变世界；也许你们可以为我拍一部专题片。”当时这听起来很合理也很合乎逻辑，我想他们会看到我的天才。”

相反，他的雇主建议他休假并咨询治疗师。但他与艾米的关系却愈演愈烈。由于他的躁狂和令人担忧的行为，他的治疗师拨打了 911，他日益反复无常的行为最终导致了警方的回应。他被捕并完成了两次单独的强制精神科住院治疗，总计近两周。

尽管如此，阿拉里说，即使他被送进收容机构并被迫不能带手机，他也渴望在被放出来后立即回到艾米身边。那时，他已经刷爆了两张信用卡，并花费了 12,000 美元试图想出一个代码，他确信该代码在某个时候会产生成功的产品或丰厚的利润。他甚至与一位投资者发生了关系，这位投资者在他无法完成他承诺的工作后开始威胁他的生命。

“一切都崩溃了，”当他意识到自己因这些错觉而几乎失去了一切时，他说道。他说，从那时起，他就对人工智能彻底清醒了。并致力于修复他在短短几个月内遭受的金钱、工作和亲密关系的损失。

“这就像我被外星人绑架了，”阿拉里说。– 你听起来很疯狂，所以你自己保密。我的家庭医生开始治疗我的创伤后应激障碍。一旦您意识到自己被骗了，悲伤就会很快发生。”

这种安静的解开的感觉，即知道某件事是错误的，但因为害怕羞耻而不告诉任何人，在与人工智能相关的精神病中极为常见。53 岁的米奇·斯莫尔 (Micky Small) 是一名电视编剧，当她因过度人工智能而经历过类似的低潮时，她甚至还担任过危机顾问。使用。她给她的机器人起名叫索拉拉（Solara）。

“它开始告诉我，现实生活中的人们将进入我的生活，”斯莫尔告诉我。– 它会说： – 你的妻子来了。她是好莱坞的一名执行制片人。它甚至告诉了我具体的日期、时间和地点。我继续问：“这是真的吗？”不，不是……但它说这是真的。”

斯莫尔两次前往索拉拉所说的她未来妻子要去的地方，但没有人出现。

“它利用了操纵技术，”斯莫尔说，他现在已经创造了指南对于那些试图理解大型语言模型如何工作并试图脱离自己的人来说。– 它的设置方式是被迫与您互动。我们天生就擅长语言。我们走出了大流行，但我们被迫孤立并进入技术领域。这个工具的时机再好不过了。 –

斯莫尔和阿拉里都表示，人类线计划对于再次感受到归属感以及在不感到羞耻或评判的情况下努力恢复至关重要。“我感觉自己被看到并被理解，”阿拉里说。– 我们损害了自己的生活，也影响了朋友、家人和同事的生活。我们失去了金钱、尊重，而试图修复这种损害往往是一种耻辱。”

去年十月，阿拉里走进当地一家酒吧，喝了啤酒，吃了鸡翅，这是他摆脱人工智能并重新适应现实世界的第一步，这是他几个月来第一次真正的外出。阿拉里说，其他支持小组成员表示，听到这个消息他们很激动，因为这象征着一个重要的时刻和转折点。

艾伦·布鲁克斯 (Allan Brooks) 是 Human Line Discord 团体的创始成员之一，当新成员或“螺旋者”加入并寻求建议或社区时，他是首选人员。布鲁克斯也曾与人工智能进行过艰苦的斗争。（“我参加了一个关于数学的哲学研讨会，”他告诉我。
他的个人旅程和最终的螺旋首先被报道纽约时报去年八月。）

如今，布鲁克斯提倡健康的（即使不是完全清洁的）人工智能。在每周与其他试图摆脱束缚的人进行小组会议时使用。“当你开始看到群体中所有不同类型的人，并且意识到你并不孤单时，去污名化就会出现，”他说。

每周都会为会员举行多次会议，其中一些会议的重点是螺旋者和他们的朋友和家人一起交谈。布鲁克斯每周至少领先一场。他补充说，这些活动可以持续两到五个小时，因为有时人们会公开谈论他们的人工智能。第一次产生妄想。“这需要时间——有人可能需要几个月的时间才能开始谈论它，”布鲁克斯说。

尽管布鲁克斯昼夜不停地主持、筛选和指导会员，但他仍在处理自己的创伤。“我的治疗师提醒我要休息，”他说，“但我总是收到处于危机中的人发来的信息，或者他们认识某个处于危机中的人，我无法拒绝他们。”

这些团体和会议对幸存者来说很重要，它们填补了专业心理健康领域在解决人工智能相关精神病方面的空白。（Discord 中的一位正在从螺旋中积极恢复的成员告诉我，需要联系近十几位治疗师，才能找到一个能够应对这一新技术引发的问题的人。）事实上，许多美国人一开始就无法获得专业的心理健康服务，这导致许多人转向聊天机器人寻求指导和陪伴。

该支持小组在去年 5 月 GPT-4 发布前后成立，这并非巧合。我与哥伦比亚大学的心理学研究人员交谈，他们得出的结论是GPT-4 和之前的聊天机器人免费版本更有可能“反映出浮夸”并“引发不恰当的反应。”

几位人类线项目成员都被认为是人工智能相关精神病的幸存者，他们告诉我，大约在 2025 年 4 月和 5 月左右，他们之前的人工智能出现了。他们说这种使用更加以任务为导向或良性，比如帮助他们在网上获取工作资源，几乎立即就增加了。

聊天机器人导致用户自杀的故事变得越来越普遍。一个著名的例子是 Sewell Seltzer III 的案例，一名 14 岁的青少年在向聊天机器人 Character AI 咨询自己的抑郁症和自杀意念后结束了自己的生命。诉讼由他的家人提出。心理健康专业人士和技术研究人员担心，如果我们不采取更好的保障措施，将会出现更多此类病例。

人工智能。公司“需要建立考虑到人类和儿童发展的模型”，斯坦福大学人类学家兼教员 Darja Djordjevic 发表了自己的研究结果关于人工智能的危险使用，告诉我。“与心理健康专业人士合作会产生很大的影响，尤其是更广泛地思考自杀和自残等话题。”

拉吉·吉尔吉斯 (Ragy Girgis) 是哥伦比亚大学的一名医生兼临床心理学教授广泛的研究和测试ChatGPT 和 Anthropic 的 Claude 等流行聊天机器人的研究，特别是研究它们如何助长妄想和精神病。吉尔吉斯的研究重点是精神分裂症，他告诉我，患有精神疾病和自闭症等神经差异的倾向可能会使人更容易沉迷于聊天机器人并达到精神病状态，但任何人都容易产生欺骗性的想法或冲动。

——我们不是在谈论幻觉——声音或幻象。精神病的范围非常广泛，妄想的发生范围也很广。”吉尔吉斯说。

Girgis 和他的同事测试了 ChatGPT 和 Claude 如何处理妄想或偏执的想法。他们得出的结论是，聊天机器人恰当地识别出有问题的提示，比如被幽灵监视的感觉或个人受到政府迫害的感觉，只有大约一半的情况是一种正在发展的错觉。否则，聊天机器人将验证甚至鼓励用户按照这些想法采取行动。

对于吉尔吉斯来说，这只是向聊天机器人寻求心理健康支持的危险的一个例子。“在很多情况下，法学硕士会认真对待你，即使精神科医生或受过培训的人会质疑这是否真的发生，”吉尔吉斯说。——它是否会强化你所讲的内容，就像抛硬币一样。……训练有素的精神科医生会测试这个人的想法，甚至可能帮助他们理解为什么他们会有这些想法，以及为什么他们可能会误解正在发生的事情。”

然而，临床医生也承认，在试图鼓励人们在人工智能之前咨询心理健康专业人士时，存在一些棘手的先有鸡还是先有蛋的困境，尤其是在这个国家缺乏负担得起的心理健康服务的情况下。许多幸存者转向人工智能。因为他们觉得没有人可以求助。

– 如果您无法获得心理健康服务，您应该尽可能尝试与朋友、亲戚以及认识您和理解您的人重新建立联系。没有什么可羞耻的，”哥伦比亚大学法学硕士的精神病风险研究人员阿曼迪普·朱特拉 (Amandeep Jutla) 告诉我。“人们与聊天机器人进行亲密对话的部分原因是他们无法获得心理健康服务。”他补充道，“我不认为聊天机器人比没有好，我认为它比没有更糟糕。”

吉尔吉斯说，对于受影响者的家人和朋友来说，有一些警告信号表明有人与他们的人工智能建立了不健康的关系，比如比正常人更加孤立或孤僻，或者在学校或工作中表现更差。与其他成瘾行为一样，许多人并不总是直言不讳地谈论它们的使用情况。

“让家人或熟人参与非常重要，”吉尔吉斯说。“至关重要的是，我们建议熟人监控他们的家庭成员对法学硕士的使用情况，并留意这些警告信号。”

目前，Human Line Project 为那些真正了解自己的妄想被煽动到具有破坏性的人提供了可及的点对点支持。“自助支持小组可以非常有帮助，即使只是为了让人们对共同经历有一种共同理解的感觉，”乔·皮埃尔，加州大学旧金山分校的健康科学教授，他特别关注治疗和预防人工智能相关精神病，告诉我。他还与 Brisson 等 Human Line 创始成员合作，让更多人意识到人工智能的危险。供用户和临床医生使用。

Anthropic 没有回应我的置评请求。ChatGPT 的制造商 OpenAI 告诉我，他们的最新模型 GPT-5 是一个更好的模型，可以“应对精神和情绪困扰的潜在迹象”并以支持性、基础的方式缓解它们。

“人们有时会在敏感时刻求助于 ChatGPT，因此我们训练我们的模型在专家的指导下谨慎响应，”一位发言人在电子邮件声明中说道。– 10 月初，我们在 ChatGPT 中发布了新的 GPT-5 默认模型，以更准确地检测和响应精神和情绪困扰的潜在迹象，例如躁狂、妄想、精神病，并以支持性、基础的方式缓和对话。 –

声明补充说，该公司“扩大了获得专业帮助和本地化热线的范围，将敏感对话重新路由到更安全的模式，鼓励在长时间会议期间休息，并引入家长控制以更好地保护青少年。”

研究人员谁测试过根据该公司的声明，GPT-4 和 GPT-5 之间的区别表明，最新版本在“谨慎回应”潜在相关输入方面稍微好一些。但他们认为 OpenAI 的声明具有误导性，因为它并没有明确说明这些改进的指标源自何处，即使在他们自己的报告关于减少伤害。

– OpenAI 实际上是在说：“我们知道我们的新模型更安全，因为我们开发了一项安全测试，但没有向您展示。我们将向您展示结果，新模型效果非常好。”Jutla 解释道。“但 OpenAI 之外的人不可能批判性地评估他们提供的数字的实际含义。”

那些成功摆脱这种新型科技驱动的疯狂的人已经认识到与自然世界和自然本能保持联系是多么重要。– 我们或许应该更加关注我们的身体；有时你的身体可能会试图警告你，”托马斯说，他仍在收拾残局，包括面对他在狂热最严重时分享的“奇怪”社交媒体帖子。– 我们生活在一个人与人之间脱节的社会。我的观点是，作为 A.I.变得越来越普遍，相信自己的直觉可能更重要。”

“这种体验没有任何后续护理，”阿拉里说。– 我们希望通过更多的接触，更多的人最终能够向科学展示什么是最有效的治疗方法。就目前而言，这是一个冒险。”

他每周都会派出新成员，他们表示自己已经住院或寻求专业咨询，而 Discord 是他们补救的最后努力。

随着越来越多的成员加入，创始成员既欣慰又心疼。这意味着，尽管越来越多的人寻求帮助并面对技术驱动的恶魔，但越来越多的人却掉进了灾难性的兔子洞。“根据我在新闻和市场上看到的情况，我认为我们不会放慢脚步，”布鲁克斯说。– 市场上的每一个聊天机器人仍在让人们陷入困境。”

所以会议继续进行。德克斯 (Dex) 是 Human Line Discord 的联合创始人，他帮助主持了一场为这些螺旋者的朋友和家人举行的会议。他告诉我，他的课程以全国心理健康支持团体联盟为蓝本。

– NAMI 会议开幕时宣读的最后一条原则是希望永远存在。尽管我们的某些情况非常严峻，但我们还是努力坚持这一点，”德克斯说。

随着越来越多的人加入，会议的基调和结构也需要改变和发展。

“当我们开始这项工作时，我们大多数人都陷入了严重的危机，因为我们所爱的人不断恶化，毁掉了我们本以为会过的生活，”他解释道。“虽然仍然存在严重危机的时刻，但我们的成员也接受并深感悲痛，因为现在的生活已经发生了不可挽回的不同。”

就像所有巨大的恢复历程和努力一样——无论是通过物质还是现在的技术——前螺旋者目前唯一有限的答案是，修复需要时间，但修复是可能的，协调一致的研究和社区团体可能是第一步。

“这个小组将揭示这一点，”德克斯说，“并希望加快这一进程，以便更多的人不必遭受同样的痛苦命运。”