研究发现人工智能可以改变人们对阴谋论的信仰 - 卫报

2024-09-12 18:16:00 英文原文

<正文>

无论是认为登月从未发生过的错误观念,还是新冠疫苗中含有微芯片的错误说法,阴谋论比比皆是,有时甚至会带来危险的后果。

现在研究人员发现,通过与人工智能 (AI) 聊天可以改变这种信念。

美利坚大学这项研究的合著者托马斯·科斯特洛博士说,传统智慧会告诉你,相信阴谋论的人很少(如果有的话)改变主意,尤其是根据证据。

他补充说,这被认为是由于人们采用这种信念来满足各种需求,例如控制欲。然而,新研究提出了不同的立场。

研究小组写道,我们的发现从根本上挑战了这样一种观点,即一旦有人掉进兔子洞并开始相信阴谋论,证据和论据就毫无用处。

研究人员表示,至关重要的是,该方法依赖于人工智能系统,该系统可以利用大量信息来进行对话,鼓励批判性思维并提供定制的、基于事实的反驳。

科斯特洛说,人工智能提前知道这个人相信什么,因此,它能够根据他们精确的信仰体系调整说服力。

科斯特洛和同事在《科学》杂志上撰文,报道了他们如何对 2,190 名相信阴谋论的参与者进行了一系列实验。

虽然实验略有不同,但所有参与者都被要求描述他们相信的特定阴谋论以及他们认为支持该阴谋论的证据。然后将其输入名为 DebunkBot 的人工智能系统。

参与者还被要求以 100 分的满分来评价他们认为阴谋论的真实性。

然后,他们故意与人工智能系统就他们的阴谋论或非阴谋论话题进行三轮来回对话。随后,参与者再次评估他们认为自己的阴谋论的真实性。

结果显示,那些讨论非阴谋话题的人事后的真实性评分仅略有下降。然而,那些与人工智能讨论阴谋论的人平均认为其真实性下降了 20%。

该团队表示,效果似乎会持续至少两个月,而该方法几乎适用于所有类型的阴谋论,尽管不适用于那些真实的阴谋论。

研究人员补充说,效果的大小取决于多种因素,包括信念对参与者的重要性以及他们对人工智能的信任程度。

科斯特洛说,大约四分之一的人在开始实验时相信阴谋论,但实际上却没有这种信念。

在大多数情况下,人工智能只能削弱人们的怀疑和不确定性,但少数人完全醒悟了他们的阴谋。

研究人员补充说,减少对一种阴谋论的信仰似乎会减少参与者对其他此类想法的信仰,至少在很小程度上,而这种方法可以在现实世界中应用,例如,人工智能可以回复与以下内容相关的帖子社交媒体上的阴谋论。

剑桥大学的 Sander van der Linden 教授并未参与这项工作,他质疑人们是否会在现实世界中自愿接触此类人工智能。

他还表示,目前尚不清楚如果参与者与匿名人聊天是否会发现类似的结果,同时也存在关于人工智能如何说服阴谋论信徒的问题,因为该系统还使用了同理心和肯定等策略。

但是,他补充道:总的来说,这是一个非常新颖且可能重要的发现,很好地说明了如何利用人工智能来对抗错误信息。

摘要

无论是认为登月从未发生过的错误观念,还是新冠疫苗中含有微芯片的错误说法,阴谋论比比皆是,有时甚至会带来危险的后果。研究小组写道,我们的发现从根本上挑战了这样一种观点,即一旦有人掉进兔子洞并开始相信阴谋论,证据和论据就毫无用处。之后,参与者再次评估他们认为自己的阴谋论的真实性。研究人员补充说,效果的大小取决于因素,包括信念对参与者的重要性以及他们对人工智能的信任程度。研究人员补充说,减少对一种阴谋论的信仰似乎会减少参与者对其他此类想法的信仰,至少在很小的程度上,而这种方法可以在现实世界中应用,例如,人工智能可以回复与阴谋论相关的帖子社交媒体。