一项新的科学评论引发了人们的担忧，即人工智能驱动的聊天机器人可能会鼓励妄想性思维，尤其是对弱势群体来说。

关于人工智能诱发精神病的现有证据摘要于上周发表在柳叶刀精神病学，强调聊天机器人如何鼓励妄想性思维——尽管可能只针对那些已经很容易出现精神病症状的人。作者主张与训练有素的心理健康专业人员一起对人工智能聊天机器人进行临床测试。

伦敦国王学院的精神病学家兼研究员 Hamilton Morrin 博士在他的论文中分析了 20 份有关所谓“人工智能精神病”的媒体报道，该报告描述了有关聊天机器人如何诱发或加剧妄想的当前理论。

“新出现的证据表明，代理人工智能可能会验证或放大妄想或浮夸的内容，特别是对于已经容易患精神病的用户，尽管目前尚不清楚这些相互作用是否会导致在没有预先存在的脆弱性的情况下出现新的精神病，”他写道。

莫林说，精神病性妄想主要分为三类，分别是夸大妄想、浪漫妄想和偏执妄想。虽然聊天机器人可能会加剧这些问题，但它们的阿谀奉承意味着它们特别喜欢浮夸的类型。在本文的许多案例中，聊天机器人用神秘的语言回应用户，暗示用户已经提高了精神重要性。这些机器人还暗示用户正在与一个使用聊天机器人作为媒介的宇宙生物交谈。这种神秘、阿谀奉承的反应在 OpenAI 的 GPT 4 模型中尤其常见，该模型该公司现已退休。

他说，媒体报道对于莫林的工作至关重要，因为他和一位同事已经注意到患者“使用大型语言模型人工智能聊天机器人并让他们验证自己的妄想信念”。

“最初，我们不确定这种情况是否会被更广泛地看到，”他说，并补充道：“去年 4 月，我们开始看到媒体报道称，有妄想症的人通过与这些人工智能聊天机器人的互动得到了证实，甚至可以说被放大了。”

当莫林第一次开始写他的论文时，还没有发表的病例报告。

虽然一些研究精神病的科学家表示，媒体报道往往夸大了人工智能的观点原因精神病，莫林对那些比科学进程更快地引起人们对这一现象的关注的报告表示感谢。

“这个领域的发展速度如此之快，学术界不一定能够跟上，这也许并不奇怪，”莫林说。

莫林还建议比“人工智能精神病”或“人工智能诱发的精神病”短语更谨慎的措辞，这些短语经常出现在媒体中，例如全国公共广播电台，纽约时报 和卫报。研究人员发现人们在使用人工智能时陷入妄想性思维，但到目前为止，没有证据表明聊天机器人与其他精神病症状有关，例如幻觉或“思维障碍”，即思维和言语混乱。

许多研究人员还认为，人工智能不太可能让那些还没有受到影响的人产生妄想。出于这个原因，莫林说“与人工智能相关的妄想”是“也许是一个更加不可知论的术语”。

夸梅·麦肯齐 (Kwame McKenzie) 博士，成瘾与心理中心健康公平主任健康，说“那些处于精神病发展早期阶段的人可能面临更大的风险。”

麦肯齐解释说，精神病性思维是随着时间的推移而发展的，并且不是线性的，许多具有“前精神病性思维”的人不会发展为精神病性思维。

哥伦比亚大学临床精神病学教授 Ragy Girgis 博士也担心聊天机器人可能会加剧精神病性思维。他说，在某人形成完全的妄想之前，他们通常会产生“减弱的妄想信念”，这意味着他们不能 100% 确定自己的妄想是真实的。吉尔吉斯说，“最糟糕的情况”是减弱的妄想变成完全的信念，“这就是某人被诊断出患有精神障碍，这是不可逆转的”。

值得注意的是，早在人工智能技术出现之前，易患精神疾病的人就已经使用媒体来强化妄想信念。

“自从工业革命之前，人们就一直对技术抱有幻想，”莫林说。在过去，人们可能不得不通过 YouTube 视频或当地图书馆的内容来强化他们的错觉，而聊天机器人可以以更快、更集中的剂量提供这种强化。牛津大学研究员多米尼克·奥利弗博士说，它们的互动性质还可以“加速加剧精神病症状的过程”。

“你有一些东西在跟你顶嘴，与你互动，并试图与你建立关系，”奥利弗说。

吉尔吉斯人研究发现当付费版本和较新版本（聊天机器人）对明显的妄想性提示做出反应时，它们的表现比旧版本更好，尽管它们都表现得很差。尽管如此，这些模型的表现不同表明：“人工智能公司可能知道如何对其聊天机器人进行编程，使其更安全，并识别妄想内容与非妄想内容，因为他们正在这样做。”

OpenAI 在一份声明中表示，ChatGPT 不应取代专业心理保健，并且该公司与170名心理健康专家让 GPT 5 更安全。GPT 5 仍然给出有问题的回应提示表明心理健康危机。OpenAI 说过了继续改进其模型在专家的帮助下。

Anthropic 没有回应《卫报》的置评请求。

莫林说，为妄想思维创建有效的保障措施可能很棘手，因为“当你与有强烈妄想信念的人一起工作时，如果你直接挑战某人并立即告诉他们他们完全错了，实际上他们最有可能会远离你并变得更加社会孤立”。相反，重要的是要创造一种微妙的平衡，在这种平衡中，你试图理解妄想信念的根源，但又不鼓励它——这可能超出了聊天机器人所能掌握的范围。