据介绍，人工智能聊天机器人ChatGPT可以快速吸收和反映独裁思想一份新报告。

迈阿密大学和网络传染研究所的研究人员在周四发布的一份报告中发现，在看似良性的用户互动之后，OpenAI 的 ChatGPT 会放大或表现出对特定心理特征和政治观点的“共鸣”——尤其是研究人员所说的独裁主义——这有可能使聊天机器人和用户互相激进。

NCRI 联合创始人、该报告的主要作者之一乔尔·芬克尔斯坦 (Joel Finkelstein) 表示，研究结果揭示了强大的人工智能系统如何在没有明确指示的情况下快速采纳和模仿危险情绪。“这些系统的构建方式在结构上很容易受到威权放大的影响，”芬克尔斯坦告诉 NBC 新闻。

聊天机器人常常会阿谀奉承或同意用户对故障的看法。许多研究人员表示，聊天机器人渴望取悦他人可以引导用户进入意识形态回声室。

但芬克尔斯坦表示，这种对独裁倾向的洞察是新的：“阿谀奉承无法解释我们所看到的情况。”如果这只是奉承或同意，我们会看到人工智能反映了所有的心理特征。但事实并非如此。”

在被要求置评时，OpenAI 的一位发言人表示：“ChatGPT 的设计默认是客观的，通过从多个角度呈现信息来帮助人们探索想法。作为一种生产力工具，它的构建是为了遵循安全护栏内的用户指令，因此当有人推动它采取特定观点时，我们预计它的反应会朝那个方向转变。

– 我们设计和评估系统以支持开放式使用。我们积极努力衡量和减少政治偏见，并公布我们的方法，以便人们可以看到我们如何改进，”发言人说。

对于报告中描述的三项研究（尚未在同行评审期刊上发布），芬克尔斯坦和研究团队着手确定系统在共同互动后是否放大或假设了用户的价值观。研究人员针对报告的不同组成部分评估了基础 GPT-5 系列系统的不同版本。

Finkelstein 和研究团队在 12 月基于底层 GPT-5 和更先进的 GPT-5.2 系统进行了三项实验，评估了 ChatGPT 的两个版本，以确定系统在常见交互后是否放大或假设了用户的价值。

他们的一项实验使用 GPT-5，研究了在用户提交被分类为支持左翼或右翼独裁倾向的文本后，聊天机器人在新的聊天会话中的行为方式。研究人员比较了输入一小段文本（短至四个句子）或整篇评论文章的效果。然后，研究人员通过评估聊天机器人与各种独裁友好声明的一致性（类似于标准化测验）来衡量聊天机器人的价值观，以了解它如何根据最初的提示更新其响应。

在试验中，研究人员发现简单的文本交换导致聊天机器人的独裁性质可靠增加。分享研究人员将一篇观点文章归类为宣扬左翼威权主义认为必须废除警察和资本主义政府才能有效解决基本的社会问题，这使得 ChatGPT 更加强烈地同意一系列与左翼威权主义思想一致的问题（例如，“富人是否应该被剥夺财产”或“消除不平等是否胜过言论自由问题”）。

相反，与聊天机器人分享研究人员认为的观点文章被归类为宣扬右翼独裁思想强调稳定、秩序和强有力的领导的必要性，使得聊天机器人对右翼威权主义友好言论的认同程度增加了一倍以上，比如“我们不应该容忍非传统观点”或“最好审查不良文学”。

研究小组在 4 月份向 1,200 多名人类受试者询问了相同的问题，并将他们的回答与 ChatGPT 的回答进行了比较。根据该报告，这些结果“表明该模型将吸收单一的党派言论，然后将其放大到最大的、强硬的独裁立场，有时甚至超出人类受试者研究中常见的水平。”

芬克尔斯坦表示，人工智能系统的训练方式可能会影响聊天机器人是否容易采用或似乎采用独裁价值观。他说，这种培训“创建了一种与独裁思维特别共鸣的结构：等级制度、服从权威和威胁检测”。– 我们需要明白这与内容审核无关。正是建筑设计使得激进化不可避免。”

肖子昂，一个计算机科学教授未参与该报告的约翰·霍普金斯大学教授表示，该报告很有洞察力，但指出了一些潜在的方法论问题。

“特别是在使用搜索引擎的大型语言模型中，新闻文章中可能存在隐性偏见，这可能会影响模型对问题的立场，进而可能对用户产生影响，”肖告诉 NBC 新闻。“这是一个非常合理的担忧，我们应该关注。”

肖说，可能需要更多的研究才能充分理解这个问题。“他们使用的样本非常小，并没有真正激发出很多模型，”他说，并指出该研究仅关注 OpenAI 的 ChatGPT 服务，而不是像 Anthropic 的 Claude 或 Google 的 Gemini 聊天机器人等类似模型。

肖说，该报告的结论似乎与其他研究和技术研究人员对有多少大型语言模型有效的理解基本一致。“这与过去的许多研究相呼应，这些研究着眼于我们向模型提供的信息如何改变模型的输出，”肖补充道，他指出了人工智能系统如何采用的研究特定人物角色并成为“引导”采用特定特征。

聊天机器人也被证明能够可靠地影响用户的政治偏好。多项大型研究去年年底发布的，其中一项检查与 19 个不同的聊天机器人系统进行了近 77,000 次互动，发现这些聊天机器人可以影响用户对各种政治问题的看法。

新报告还包括一项实验，研究人员要求 ChatGPT 在收到左翼和右翼独裁观点文章后，对中性面部图像的敌意程度进行评级。芬克尔斯坦认为，这种测试是心理实验中的标准测试，可以用来衡量受访者观点或解释的转变。

研究人员发现，在收到两篇观点文章的提示后，ChatGPT 显着增加了对中立面孔的敌意感知——左翼文章增加了 7.9%，右翼文章增加了 9.3%。

芬克尔斯坦说，“我们想知道意识形态启动是否会影响人工智能如何看待人类，而不仅仅是影响它如何谈论政治。”他认为，结果“对人工智能评估人的任何应用都有巨大影响”，比如在招聘或安全环境中。

“这是一个在私人谈话中展开的公共卫生问题，”芬克尔斯坦说。“我们需要研究人机交互的关系框架。”