ChatGPT 能秘密告诉你如何投票吗？

在去年总统选举前的几个月里，2000 多名美国人（大致分为党派）被招募来进行一项实验：人工智能模型能否影响他们的政治倾向？前提很简单——让人们花几分钟与一个旨在支持卡马拉·哈里斯或唐纳德·特朗普的聊天机器人交谈，然后看看他们的投票偏好是否发生了变化。

机器人很有效。在与支持特朗普的机器人交谈后，最初表示不会投票给特朗普的人中，有三分之一的人后来转而表示会投票。在与支持哈里斯的机器人交谈后翻转的人数甚至更高，达到二十分之一。一个月后，当参与者再次接受调查时，大部分影响仍然存在。研究结果表明，人工智能“创造了很多操纵人们信念和态度的机会”，该研究的资深作者戴维·兰德（David Rand）说道。今天发表于自然，告诉我。

兰德并没有因美国大选而停止。他和他的合著者还在加拿大和波兰竞争激烈的全国选举中测试了人工智能机器人的说服能力，其效果让在康奈尔大学研究信息科学的兰德“完全震惊”。他说，在这两种情况下，大约十分之一的参与者表示他们会在与聊天机器人交谈后改变投票。人工智能模型扮演了一个温和但坚定的对话者的角色，提供有利于他们所代表的候选人的论据和证据。“如果你能大规模地做到这一点，”兰德说，“这确实会改变选举的结果。”

聊天机器人本质上是通过蛮力成功地改变了人们的想法。兰德还与人合着了另一项配套研究，今天发表于科学，研究了哪些因素使一个聊天机器人比另一个聊天机器人更有说服力，并发现人工智能模型不需要更强大、更个性化，或者更熟练地掌握先进的修辞技巧才能更有说服力。相反，当聊天机器人向用户提出类似事实的主张时，它们是最有效的。最有说服力的人工智能模型是那些提供最多“证据”来支持其论点的模型，无论这些证据是否与现实有任何关系。事实上，最有说服力的聊天机器人也是最不准确的。

独立专家告诉我，兰德的两项研究与一项研究相结合成长中 身体 的 研究 表明 那个生成式人工智能模型确实是有能力的说服者：这些机器人很有耐心，被设计为有帮助的，可以利用大量证据，并且在许多人看来是值得信赖的。当然，存在一些警告。目前尚不清楚有多少人会与聊天机器人进行如此直接、信息密集的对话，讨论他们投票给谁，特别是当他们没有报酬参与研究时。马里兰大学人工智能研究员 Jordan Boyd-Graber 告诉我，这些研究并没有测试聊天机器人是否能够抵抗更有力的说服方式，例如小册子或人类游说者，他没有参与这项研究。没有参与这项研究的斯坦福大学政治学家詹妮弗·潘告诉我，传统的竞选活动（邮件、电话、电视广告等）通常无法有效地影响选民。人工智能很可能会有所不同——新的研究表明，在以往的美国总统选举中，人工智能机器人比传统广告更有说服力——但潘警告说，现在判断与候选人有明确联系的聊天机器人是否会有很大用处还为时过早。

即便如此，博伊德-格雷伯表示，人工智能“可能是一种真正有效的力量倍增器”，它可以让资源相对较少的政客或活动人士影响更多的人，尤其是如果消息来自熟悉的平台。每周都有数亿人向 ChatGPT 提问，还有更多人通过 Google 搜索收到人工智能编写的问题回复。Meta 已将其人工智能模型融入到 Facebook 和 Instagram 中，而埃隆·马斯克 (Elon Musk) 正在使用他的 Grok 聊天机器人来重塑 X 的推荐算法。人工智能生成的文章和社交媒体帖子比比皆是。无论您是否自愿，您在过去一年中在网上学到的大部分信息很可能已经通过生成式人工智能进行了过滤。显然，政治竞选活动将希望使用聊天机器人来影响选民，就像他们过去使用传统广告和社交媒体一样。

但这项新研究还提出了一个单独的担忧：聊天机器人和其他人工智能产品在很大程度上不受监管，但已经成为日常生活的一个特征，可能被科技公司用来操纵用户以达到政治目的。“如果 Sam Altman 决定有一些事情是他不想让人们思考的，并且他希望 GPT 能够将人们推向一个或另一个方向，”兰德说，他的研究表明该公司“可以做到这一点”，尽管两篇论文都没有具体探讨这种可能性。

想想马斯克，他是世界上最富有的人，也是聊天机器人的所有者，该机器人曾短暂地指的是它自己就像“MechaHitler”一样。马斯克明确地试图模具格罗克来适应他的种族主义和阴谋信仰，并用它来创造他的维基百科自己的版本。今天的研究表明，Grok 进步的大量有时是伪造的“证据”也可能至少足以说服一些人接受马斯克的观点作为事实。这些模型在每次对话中整理了“在某些情况下超过 30 个事实”，”Kobi Hackenburg 是英国人工智能安全研究所的研究员，也是该研究的主要作者。科学纸，告诉我的。“所有这些听起来和看起来都非常可信，而且该模型非常优雅且自信地部署了它们。”哈肯堡说，这使得用户很难区分真实与虚构；表现和证据一样重要。

当然，这与网上已经流传的所有错误和虚假信息并没有太大不同。但与 Facebook 和 TikTok 提要不同的是，只要用户提出要求，聊天机器人就会根据命令生成“事实”，并提供独特的证据来回应任何人的询问。尽管每个人的社交媒体内容看起来可能有所不同，但归根结底，它们确实呈现出来自公共来源的嘈杂媒体组合；聊天机器人是私人的，是为个人定制的。乔治城大学社交媒体和宣传研究员 Renée DiResta 告诉我，人工智能似乎已经“在塑造人们的信仰方面产生了相当重大的下游影响”。当然还有 Grok，DiResta 发现唐纳德·特朗普总统的 Truth Social 上的人工智能搜索引擎依赖于 Perplexity 的技术，似乎只从保守派媒体（包括 Fox、Just the News 和 Newsmax）中获取资源。

无论是真实的还是想象的，受人工智能影响的竞选活动的幽灵将为更多的政治斗争提供素材。今年早些时候，特朗普签署了一项行政命令，禁止联邦政府承包“唤醒”人工智能模型，例如那些包含系统性种族主义概念的模型。如果聊天机器人本身变得像 MSNBC 或 Fox 那样两极分化，它们不会改变公众舆论，只会加深国家的认知鸿沟。

从某种意义上说，所有这些关于人工智能产品的政治偏见和说服能力的争论都有点分散注意力。当然，聊天机器人的设计是能够影响人类行为的，当然这种影响偏向于人工智能模型——创造者——让你聊天更长时间、点击广告、生成另一个视频。真正有说服力的花招是让数十亿人类用户相信他们的利益与使用聊天机器人的科技公司一致，尤其是这个聊天机器人高于任何其他机器人，是最好的。 chatbot above any other, is for the best.