AI代理人将通过优化说服力来超越销售人员

小时候，我一生中有四个AI特工。他们的名字漆黑，眨眼，小指和克莱德，他们尽力追捕我。那是1980年，经纪人是标志性街机游戏Pac-Man中的四个色彩斑点。 

按照当今的标准，他们特别聪明，但他们似乎以狡猾和意图追求我。这是在视频游戏中使用神经网络的几十年，因此他们的行为是由简单的算法控制的，称为启发式方法，这些算法决定了他们如何在迷宫中追赶我。一个 

大多数人都没有意识到这一点，但是四个幽灵中的每个人都以不同的个性进行编程。好的球员可以观察自己的行为并学会预测他们的行为。例如，红色幽灵（眨眼）的设计是直接向您指控的追求者个性。另一方面，粉红色的幽灵（小指）被赋予了一个伏击者的个性，可以预测您要去哪里，然后先尝试到达那里。结果，如果您直接冲向Pinky，就可以将她的个性对抗她，从而使她实际上远离您。

我回想起，因为在1980年，一个熟练的人可以观察这些AI代理，解码其独特的个性，并利用这些见解来超越它们。现在，45年后，潮汐即将转变。不管喜欢与否，AI代理将很快部署，该代理的任务是解码你的个性因此他们可以利用这些见解最佳影响你。

换句话说，我们所有人都将成为人类游戏中不知情的球员，而这将是试图赢得高分的AI代理商。我的意思是从字面上看：大多数AI系统旨在最大程度地提高奖励功能，从而获得实现目标的积分。这使AI系统可以快速找到最佳解决方案。不幸的是，如果没有监管保护，我们人类可能会成为目标AI代理的任务是优化。 

AI操纵问题

我最关心的是会话代理这将使我们在我们的日常生活中进行友好的对话。他们将通过我们的PC和电话上的影子化化身与我们交谈，并通过AI驱动的眼镜很快就可以指导我们度过我们的日子。除非有明确的限制，否则这些代理人将被设计为在对话中探究我们的信息，以便他们可以表征我们的气质，倾向，个性和欲望，并利用这些特征来最大化他们有说服力的影响当努力出售我们的产品时，向美国提供服务或说服我们相信错误信息。

这就是所谓的AI操纵问题多年来，我一直在警告风险。到目前为止，政策制定者还没有采取决定性的行动，将威胁视为未来的威胁。但是现在，随着DeepSeek-R1的发布，AI代理商广泛部署的最终障碍，实时处理的成本，大大减少了。在今年结束之前，AI代理人将成为一个目标媒体的新形式就是这样互动和适应性，它将优化其影响我们的思想，指导我们的感受并推动我们的行为的能力。

当然，人类销售人员也具有互动性和自适应性。他们让我们进行友好的对话，以使我们规模规模，很快找到可以按下我们的按钮来摇动我们。人工智能代理人会让他们看起来像业余爱好者，能够以如此精巧的方式从我们身上吸收信息，以至于它会恐吓经验丰富的治疗师。他们将使用这些见解实时调整他们的对话策略，比任何二手车推销员更有效地说服我们。” 

这些将是不对称的相遇其中人造代理具有上风。毕竟，当您与试图影响您的人交往时，通常会感觉到他们的动机和诚实。与AI特工并不是一场公平的战斗。他们将能够以超人的技能来缩小您的规模，但是您根本无法将它们缩小。那是因为他们会看起来，听起来和行动如此人性，以至于我们将不知不觉地相信他们当他们以同理心和理解微笑时，忘记了他们的影响只是一个模拟的faã§ade。 

此外，他们的声音，词汇，口语风格，年龄，性别，种族和面部特征可能会为我们每个人定制最大化我们的接受度。与需要从头开始大小的人类销售人员不同，这些虚拟实体可以访问有关我们的背景和兴趣的存储数据。然后他们可以使用这些个人数据快速赢得您的信任，向您询问您的孩子，您的工作或您心爱的洋基，使您放松身心，让您失望。

为了教育政策制定者关于AI驱动操纵的风险，我帮助制作了一部屡获殊荣的短片隐私失去了这是由负责任的元联盟，Minderoo Pictures和XR Guild产生的。这3分钟的叙述戴着Ar眼镜时，描绘了一个年轻的家庭在餐厅吃饭。阿凡达斯（Avatars）取代了每个食客的命令，而不是人类服务器，利用AI的力量以个性化的方式向其销售。这部电影在2023年上映时被认为是科幻小说，但仅两年后，Big Tech从事了全力以赴武器竞赛制作AI驱动的眼镜可能会以这些方式滥用。 

我不是过分激进的法规的粉丝，但是我们需要对AI的明智而狭窄的限制来避免超人操纵通过对话代理。如果没有保护，这些代理商将说服我们购买我们不需要的东西，相信不真实的事情，并接受不符合我们最大利益的事物。很容易告诉自己，您将不容易受到影响，但是随着AI优化他们所说的每个单词，我们都可能会被击中。

一种解决方案是禁止AI代理人建立反馈循环他们通过分析我们的反应并反复调整他们的战术来优化自己的说服力。此外，应要求AI代理通知您他们的目标。如果他们的目标是说服您购买汽车，投票给政客或向家庭医生施加压力以购买新药物，则应提前说明这些目标。最后，如果可以使用此类数据来摇摆您，AI代理人不应访问有关您的背景，兴趣或个性的个人数据。” 

在当今的世界中，有针对性的影响是一个压倒性的问题，大多是在您的一般方向射击时部署的。交互式AI代理将将目标影响变成寻产导弹那找到了我们每个人的最佳路径。如果我们不保护这种风险，我担心我们都会失去人类的游戏。