喜欢与否，AI正在学习如何影响您

我小时候有四个人工智能代理在我的生活中。他们的名字漆黑，眨眼，小指和克莱德，他们尽力追捕我。这是1980年代，经纪人是标志性街机游戏Pac-Man中的四种色彩斑点。

按照今天的标准，他们特别聪明，但他们似乎以狡猾和意图追求我。这是几十年前神经网络被用于视频游戏中，因此他们的行为是由简单的算法控制的，称为启发式方法，这些算法决定了他们如何在迷宫中追逐我。” 

大多数人都没有意识到这一点，但是四个幽灵是设计了不同的个性好的球员可以观察自己的行为并学会预测自己的行为。例如，红色幽灵（眨眼）是用直接向您指控的追求者的人格编程的。另一方面，粉红色的幽灵（小指）被赋予了一个伏击者的个性，可以预测您要去哪里，然后先尝试到达那里。结果，如果您直接冲向Pinky，就可以将她的个性对抗她，从而使她实际上远离您。

我回想起，因为在1980年，一个熟练的人可以观察这些AI代理，解码其独特的个性，并利用这些见解来超越它们。现在，45年后，潮汐即将转变。不管喜欢与否，AI代理将很快被部署，该代理人的任务是解码您的性格因此他们可以利用这些见解最佳影响你。

AI操纵的未来

换句话说，我们所有人都将成为人类游戏中不知情的球员，而这将是试图赢得高分的AI代理商。我的意思是，这实际上是大多数AI系统旨在最大化一个奖励功能赚取实现目标的积分。这使AI系统可以快速找到最佳解决方案。不幸的是，没有监管保护，我们人类可能会成为AI代理人的目标负责优化。一个 

我最关心的是会话代理这将使我们在我们的日常生活中进行友好的对话。他们将通过我们的PC和电话上的感性化化身与我们交谈，并很快通过AI驱动的眼镜那将指导我们度过我们的日子。除非有明确的限制，否则这些代理人将被设计为在对话中探究我们的信息，以便他们可以表征我们的气质，倾向，个性和欲望，并利用这些特征来最大化他们有说服力的影响在销售我们的产品时，向美国提供服务或说服我们相信错误信息。

这被称为AI操纵问题，我一直在警告监管机构有关风险自2016年以来。到目前为止，决策者还没有采取决定性的行动，将其视为未来的威胁。但是现在，随着DeepSeek-R1的发布，AI代理的广泛部署的最终障碍 - 实时处理的成本已大大降低。在今年不在之前，AI代理将成为一种新形式的目标媒体形式互动和适应性，它可以优化其影响我们的思想，指导我们的感受并推动我们的行为的能力。

超人人类销售人员

当然，人类销售人员也具有互动性和自适应性。他们让我们进行友好的对话，以使我们规模规模，很快找到可以按下我们的按钮来摇动我们。人工智能代理将使他们看起来像业余爱好者，能够以如此精巧的方式从我们身上吸收信息，这会恐吓经验丰富的治疗师。他们将使用这些见解实时调整他们的对话策略说服我们比任何二手车推销员都更有效。

这些将是不对称的遭遇，其中人造代理具有上风（实际上是在说）。毕竟，当您与试图影响您的人交往时，通常会感觉到他们的动机和诚实。与AI特工并不是一场公平的战斗。他们将能够以超人的技能来缩小您的规模，但是您根本无法将它们缩小。那是因为他们看起来，听起来和行动如此人性化，我们将不知不觉地相信他们当他们以同理心和理解微笑时，忘记了他们的面部影响只是模拟的faã§ade。 

此外，他们的声音，词汇，口语风格，年龄，性别，种族和面部特征可能会为我们个人定制最大化我们的接受度。而且，与需要从头开始大小的人类销售人员不同，这些虚拟实体可以访问有关我们的背景和兴趣的存储数据。然后他们可以使用这些个人数据快速赢得您的信任，向您询问您的孩子，您的工作或您心爱的纽约洋基队，使您放松身心，让您失望。

当AI实现认知至高无上

为了教育政策制定者关于AI驱动操纵的风险，我帮助制作了一部屡获殊荣的短片隐私失去了这是由负责任的元联盟，Minderoo和XR协会产生的。快速3分钟的叙述戴着自动现实（AR）眼镜时，描绘了一个年轻的家庭在餐厅吃饭。阿凡达斯（Avatars）取代了每个食客的命令，而不是人类服务器，利用AI的力量以个性化的方式向其销售。这部电影在2023年发行时被认为是科幻小说 - 两年后，Big Tech从事了全力以赴武器竞赛制作AI驱动的眼镜可以轻松地以这些方式使用。

此外，我们需要考虑当我们人类开始相信AI代理人的建议是比我们更聪明几乎在每个方面。当AI在普通人方面达到认知至高无上的感知状态时，这可能会导致我们盲目接受其指导，而不是使用我们自己的批判性思维。对感知到的优越智能的这种尊重（无论是否真正优越）将使代理操纵变得更加容易部署。” 

我不是过分激进的法规的粉丝，但是我们需要对AI的明智而狭窄的限制以避免超人操纵通过对话代理。如果没有保护，这些代理商将说服我们购买我们不需要的东西，相信那些不真实的事物并接受不符合我们最大利益的事物。很容易告诉自己，您将不容易受到影响，但是随着AI优化他们对我们说的每个单词，我们都可能会被淘汰。

一种解决方案是禁止AI代理人建立反馈循环他们通过分析我们的反应并反复调整他们的战术来优化自己的说服力。此外，应要求AI代理通知您他们的目标。如果他们的目标是说服您购买汽车，投票给政治家投票或向家庭医生施加压力以购买新药，则应提前说明这些目标。最后，AI代理如果可以是您的背景，兴趣或个性的个人数据用来摇动你。 

在当今的世界中，有针对性的影响是一个压倒性的问题，大多是在您的一般方向射击时部署的。交互式AI代理将将目标影响变成寻求热的导弹，从而找到我们每个人的最佳路径。如果我们不保护这种风险，我担心我们都会失去人类的游戏。

路易斯·罗森伯格（Louis Rosenberg）是一名计算机科学家和作家，谁开创了混合现实并建立一致的AI。