英语轻松读发新版了,欢迎下载、更新

人工智能生成的内容似乎并没有影响最近的欧洲选举 - 麻省理工学院技术评论

2024-09-18 23:01:00 英文原文

人工智能生成的内容似乎并没有影响最近的欧洲选举

但研究人员表示,未来仍然存在风险。

人工智能生成的谎言根据最新研究,深度造假似乎对英国、法国和欧洲议会今年的选举结果没有影响。

自生成型人工智能热潮开始以来,深度造假似乎对英国、法国和欧洲议会的选举结果没有影响。人们担心人工智能工具可能会增强不良行为者传播虚假内容的能力,从而有可能干扰选举甚至影响结果。今年,这种担忧尤其加剧,预计将有数十亿人在 70 多个国家/地区投票。

艾伦图灵研究所 (Alan Turing Institute) 的研究员萨姆·斯托克韦尔 (Sam Stockwell) 表示,这些担忧似乎没有根据。学习。他重点关注了从 2024 年 5 月到 2024 年 8 月四个月内的三场选举,收集了有关人工智能滥用的公开报告和新闻文章的数据。斯托克韦尔发现了英国大选期间广泛传播的 16 起人工智能造假或深度造假案件,而欧盟和法国选举中总共只有 11 起,但这些案件似乎都没有明确影响结果。虚假人工智能内容是由国内行为者和与俄罗斯等敌对国家有联系的团体创建的。

这些发现与专家最近的警告一致,即对选举干预的关注正在分散我们对更深层次和更长期的注意力。-对民主的持久威胁。

迄今为止,在今年大多数欧洲选举中,人工智能生成的内容作为虚假信息工具似乎并没有发挥作用。斯托克韦尔说,这是因为大多数接触到虚假信息的人已经相信其潜在信息(例如,他们国家的移民水平过高)。斯托克韦尔的分析表明,通过转发和放大这些深度造假信息积极参与的人有一定的从属关系或之前表达过与内容一致的观点。因此,这些材料更有可能强化先前存在的观点,而不是影响尚未做出决定的选民。

经过考验的选举干预策略,例如用机器人淹没评论部分和利用有影响力的人传播谎言,仍然有效得多。不良行为者大多使用生成式人工智能以自己的方式重写新闻文章或创建更多在线内容以达到虚假信息的目的。

人工智能目前并没有真正提供太多优势,因为现有的更简单的创建方法路透社新闻研究所研究员菲利克斯·西蒙(Felix Simon)并未参与这项研究,他表示,虚假或误导性信息仍然普遍存在。

但是,很难就人工智能对选举的影响得出确切的结论。匹兹堡大学虚假信息专家塞缪尔·伍利表示,在这个阶段。部分原因是我们没有足够的数据。

他补充道,与使用这些改变公民参与的工具相关的下游影响不太明显、难以追踪。

斯托克韦尔同意这一观点。:这些选举的早期证据表明,人工智能生成的内容可能比大规模改变人们的观点更有效地骚扰政客和制造混乱。

英国政客,例如前首相里希·苏纳克 (Rishi Sunak),成为人工智能深度伪造的目标,例如,显示他们宣扬诈骗或承认金融腐败。女性候选人还成为未经同意的性深度造假内容的目标,旨在贬低和恐吓她们。

当然,从长远来看,政治候选人受到的影响越大,就存在风险。斯托克韦尔说,网络骚扰、死亡威胁、深度伪造色情诽谤可能会对他们参与未来选举的意愿产生真正的寒蝉效应,但也显然会损害他们的福祉。

也许更令人担忧的是,斯托克韦尔说,他的研究表明,人们越来越无法辨别选举背景下真实内容和人工智能生成内容之间的区别。政客们也在利用这一点。例如,法国欧洲议会选举中的政治候选人分享了人工智能生成的内容,放大了反移民言论,但没有透露这些内容是用人工智能制作的。

这种秘密参与,加上缺乏透明度,西蒙表示,在我看来,与普通民众或所谓的不良行为者使用人工智能相比,这对政治进程的完整性构成了更大的潜在风险。

深入研究

人工智能

Google DeepMinds 的新人工智能系统现在可以解决复杂的数学问题

AlphaProof 和 A​​lphaGeometry 2 是构建推理系统的步骤,这可以解锁令人兴奋的新功能。

为什么 OpenAI 的新模型如此重要

到目前为止,LLM 的大部分进展都是语言驱动的。这个新模型进入了复杂推理领域,对物理、编码等都有影响。

OpenAI 发布了一个新的 ChatGPT 机器人,您可以与它交谈

支持语音的机器人今天,聊天机器人将向一小部分人开放,并在秋季向所有 ChatGPT Plus 用户开放。

接受 AI 垃圾训练的 AI 会吐出 AI 垃圾

作为垃圾网页编写随着人工智能激增,依赖该数据的模型将受到影响。

保持联系


麻省理工学院技术评论获取最新更新

发现特别优惠、头条新闻、即将举办的活动等等。

关于《人工智能生成的内容似乎并没有影响最近的欧洲选举 - 麻省理工学院技术评论》的评论


暂无评论

发表评论

摘要

研究人员表示,人工智能生成的内容似乎并没有影响最近的欧洲选举,但未来仍然存在风险。斯托克韦尔说,这是因为大多数接触到虚假信息的人已经相信其潜在信息(例如,他们国家的移民水平过高)。斯托克韦尔对此表示同意:这些选举的早期证据表明,人工智能生成的内容可能比大规模改变人们的观点更有效地骚扰政客和制造混乱。例如,法国欧洲议会选举中的政治候选人分享了人工智能生成的内容,放大了反移民言论,但没有透露这些内容是用人工智能制作的。在我看来,这种秘密参与加上缺乏透明度,可能会带来更大的潜在影响。西蒙表示,与普通民众或所谓的不良行为者使用人工智能相比,对政治进程完整性的风险更大。OpenAI 发布了一款新的 ChatGPT 机器人,您可以与之交谈。支持语音的聊天机器人今天将向一小群人开放,并在秋季向所有 ChatGPT Plus 用户开放。