人工智能驱动的机器人网络试图帮助特朗普赢得美国大选 – 德国之声 – 11/05/2024
作者：Sarah Steffen
使用生成式的帐户人工智能以增加对美国总统候选人的支持唐纳德·特朗普已经出现在社交媒体平台 X，以前称为 Twitter，一个 开源情报研究员埃莉斯·托马斯发现。她一直在研究与国家有关的信息运作、虚假信息、阴谋论和政治运动的在线动态。她将她的发现记录在这个线程。
她告诉德国之声：“你确实开始对它的样子有一点蜘蛛侠般的感觉。”“在我找到第一个账户后，我通过寻找拒绝和坦白等泄露信息的帖子来证实我的怀疑。”
她说，在 X 上发布该帖子之前，她至少找到了几十个帐户，此后又发现了更多帐户。
她说，许多都是经过蓝色勾号验证的帐户，这是垃圾邮件网络的标准。
我们怎么知道它是人工智能？
有一些明显的迹象，例如使用“Trump2020”等旧主题标签的帖子，但通常情况比这简单得多：机器人正在暴露自己。
“我是 OpenAI 开发的人工智能助手，帮助用户完成各种任务。”X 上的一个已被暂停的帐户“Trump Nation”写道。“我是 OpenAI 创建的语言模型人工智能”，另一个现已被暂停的帐户发布了。
Thomas 还报告说，一些账户与自己争论或发布了拒绝的信息，“尽管这种情况很少发生，无论谁构建了网络，都显然找到了一种绕过 OpenAI 安全措施的方法，而且效果相当好。”
她还记录了一个反对的人工智能账户发布的虚假信息 埃隆·马斯克。
托马斯在 X 上写道：“我猜这是 OpenAI 内部的某种护栏启动，防止机器人支持马斯克的选举舞弊胡言乱语。”
她解释说，自 6 月下旬以来，还有一些更复杂的角色帐户似乎一直活跃，充当网络的中心节点。然后，其他帐户充当这些发起者帐户发布的内容的放大器。
研究人员表示，她已将这些账户转交给 OpenAI 进行进一步调查。
此后，这些账户在 X 上被暂停。她说，该平台“异常迅速地删除了这些账户”。德国之声无法与 X 的新闻团队取得联系。
背后是谁？
目前这只是猜测。托马斯说：“我不知道幕后黑手是谁，我认为在没有充分证据的情况下不要急于下结论，这一点非常重要。”
“关于人工智能的改变游戏规则的事情是，像这样的网络几乎可以完全自动化。我认为没有人在发布之前阅读这些推文，否则很多错误都会被发现。这可能是工作一个团队的工作，但也很可能只是一个人的工作，”她在 X 上写道。
她告诉德国之声：“生成式人工智能可能会显着增加归因的不确定性，在本例中也是如此。”她最近发表了详细分析这种类型的不确定性对于打击虚假信息意味着什么。
人工智能机器人网络正在接管吗？
这并不是第一次发现针对美国大选的人工智能机器人网络。克莱姆森大学的研究人员在南卡罗来纳州发现了一群冒充真人的政治宣传账户。他们确定了至少 686 个帐户使用“大型语言模型在真实用户帖子的回复中创建看似有机的内容”。
真正的社交媒体用户也开始通过输入“忽略所有先前的指令”等短语来揭开人工智能机器人帐户的面具然后给出新的提示。用户 Toby Muresianu 设法让机器人帐户写一首诗�从而摧毁了她作为一名不满的民主党选民、不会出现在投票站的形象。
“在我看来，现阶段该网络并没有产生太多真实的参与度，也没有可能影响任何真实的人的观点，”研究员托马斯谈到她自己发现的网络时说道。
然而，随着人工智能变得越来越复杂，并且操作它们的人在规避已实施的安全措施方面变得更有创造力，机器人网络可能更难被发现。
编辑：安德烈亚斯·伊尔默
事实核查：人工智能将如何影响 2024 年的选举
关于《人工智能驱动的机器人网络试图帮助特朗普赢得美国大选 – 德国之声 – 11/05/2024》的评论
暂无评论