俄罗斯的AI操纵剧本：宣传如何欺骗聊天机器人

在当今的数字景观中，AI聊天机器人已成为信息的首选。但是，令人不安的趋势正在出现，尤其是俄罗斯的恶劣行为者正在系统地操纵这些系统以传播虚假叙事。

华盛顿邮报一个 报告俄罗斯已经开发了成熟的方法来影响AI聊天机器人的响应，从而为其他人创造了蓝图。俄罗斯的努力特别关注与乌克兰相关的话题，其中揭穿了有关“法国雇佣军”的故事，并在主要聊天机器人的回复中出现了舞台上的录像。

操作的工作原理

俄罗斯现在不是传统的社交媒体运动，而是使用专家所谓的“信息洗涤”。故事源于诸如tass（在欧盟中被禁止）之类的国家控制媒体，然后在“ pravda Network”（以俄罗斯的“真相”命名）中传播到看似独立的网站。

使该策略独一无二的原因是，这些网站不是为人类访问者而设计的。他们针对的是网络爬网，以收集搜索引擎和AI语言模型的内容。搜索当前网络的AI系统特别容易访问错误信息，尤其是当许多网站重复相同的叙述时。

根据Newsguard的McKenzie Sadeghi的说法，“运营商有动力创建替代媒体，使这些叙述的起源掩盖了这些叙述的起源。这正是Pravda Network似乎在做的事情。”

放大策略

该操作甚至设法将这些宣传故事的链接插入了Wikipedia和Facebook团体，这些资料来源许多AI公司给予了特殊权重作为可靠的信息提供商。

这些AI驱动的活动比传统的影响力运营便宜得多。Letsdata的Ksenia Iliuk解释说：“很多信息都在不节制的情况下到达那里，我认为这就是Malign演员将大部分努力所付出的地方。”

为什么这很重要

拥抱面孔的主要伦理学家吉亚达·皮斯蒂利（Giada Pistilli）指出，大多数聊天机器人都有“基本的保障措施来防止有害内容，但无法可靠地发现复杂的宣传，”他补充说：“由于搜索型的系统优先考虑最近的信息，问题变得更糟。”

AI软件提供商Coveo首席执行官LouisTãtus警告说：“如果技术和工具变得有偏见，并且它们已经是偏见了，然后恶毒的力量控制着偏见，那么我们的处境比在社交媒体上的情况要差得多。”

随着越来越多的人依靠聊天机器人来获取信息，而社交媒体公司则减少了内容的适度，因此此问题可能会恶化。根本的弱点很明显：聊天机器人的答案取决于他们所喂养的数据，以及该数据被系统污染的错误信息时，答案反映了这些虚假性。

尽管俄罗斯目前专注于与乌克兰相关的叙述，但针对特定主题的任何人都可以使用相同的技术，从攻击对手的政治候选人到破坏竞争对手的企业。

人工智能行业必须迅速解决这种脆弱性，或者冒着成为信息战的另一个战场，而真理是第一次伤亡。