AI 深度造假如何污染 2024 年的选举

2024 年 6 月 1 日，印度加尔各答大选最后阶段，选民在投票站投票后离开。人工智能工具被用来创建有关印度和世界其他地方政治对手的表情包和图像。Dibyangshu Sarkar/法新社/盖蒂图片社 隐藏标题

切换标题

Dibyangshu Sarkar/法新社/盖蒂图片社

一月份，数千名新罕布什尔州选民拿起电话想听听什么听起来像拜登总统告诉民主党人不要在几天后的州初选中投票。

“当我们计票时，我们知道投票给民主党的价值。为 11 月的选举保留选票很重要，”线路上的声音说道。

但那不是拜登。这是一个深度伪造由于生成型人工智能技术的快速发展，人们担心 2024 年的全球选举浪潮将被虚假图片、音频和视频操纵。

加州大学伯克利分校教授哈尼·法里德表示：“噩梦般的情况发生在选举前一天、选举当天、选举后一天，一些爆炸性图像、一些爆炸性视频或音频只会让世界着火。”研究受操纵媒体的人。

拜登的深度伪造结果是受一位民主政治顾问他说他这样做是为了对人工智能发出警报。他被 FCC 罚款 600 万美元，并在新罕布什尔州被指控刑事指控。

但随着 2024 年的到来，令人担忧的欺骗性、针对性的深度造假浪潮并没有真正成为现实。

纽约大学社交媒体和政治中心研究数字信息如何改变社会的泽夫·桑德森 (Zeve Sanderson) 表示：“今年并不像许多人预言的那样，是人工智能选举的一年。”

相反，人工智能在许多国家最明显的用途是创建不加掩饰人工来源的模因和内容。通常，政客及其支持者公开分享这些观点。

法里德表示，进入今年，他更担心这种“千刀万剐”，而不是人工智能的爆炸性场景。

“我不认为这些图像的设计具有明显的欺骗性，但它们的目的是推动叙事和宣传工作，”他说。“我确实认为信息生态系统普遍受到污染，人们才开始放弃。”

复活死去的独裁者

以印度尼西亚为例，Golkar 政党利用人工智能来复活苏哈托2008 年去世的长期独裁者。

“我是苏哈托，印度尼西亚第二任总统，”在专业集团副主席发布到社交媒体网站 X 的一段视频中，AI 苏哈托在支持该党候选人之前说道。假苏哈托表示，专业集团的候选人将“继续我对印度尼西亚进步的梦想”。

不久之后，苏哈托的女婿——也得到了专业集团的支持——当选为总统。

人工智能模因在印度也很流行，去年春天，印度举行了世界上最大的民主演习。

今年 5 月，在斋浦尔的一个集市上，一位名叫 Dilip（只有一个名字）的商人告诉 NPR，他的朋友在 WhatsApp（Meta 拥有的流行消息平台）上向他转发了人工智能生成的表情包。

他说他喜欢那些嘲笑反对派领袖拉胡尔·甘地的电影，比如人工智能版的甘地被描绘成一个愚蠢的小偷，想象着如果他赢了他会偷走所有的钱。

尽管如此，迪利普表示，尽管有这些表情包，但他已经决定投票给谁。

印度一位专业名称为 Sahid SK 的生成人工智能艺术家表示，他之所以采用表情包，是因为被愤怒的候选人因诽谤而起诉的风险较小。他说模因只是一种眨眼，而不是彻头彻尾的歪曲。

“我认为这是我们在这次选举中没有看到很多深度造假的唯一原因。因为每个人都害怕法律通知，”萨希德·SK 说。

印度和其他国家传播了大量虚假和误导性的叙述，而根本没有使用人工智能，而是通过被称为“廉价假货”的编辑和篡改视频。

马斯克和特朗普拥抱人工智能生成的模因

在美国，政治迷因和病毒视频涵盖了从 Photoshop 处理的图像和断章取义的剪辑到人工智能生成的副总统卡玛拉·哈里斯 (Kamala Harris) 肖像的范围。苏联服装和的美国黑人支持前总统唐纳德·特朗普。

德克萨斯州布朗斯维尔 - 11 月 19 日：美国当选总统唐纳德·特朗普和埃隆·马斯克于 2024 年 11 月 19 日在德克萨斯州布朗斯维尔观看 SpaceX 星舰火箭的第六次试飞。SpaceX 的亿万富翁老板、特朗普的红颜知己埃隆·马斯克 (Elon Musk) 已被任命与前总统候选人维韦克·拉马斯瓦米 (Vivek Ramaswamy) 一起领导新的政府效率部。（布兰登·贝尔/盖蒂图片社拍摄）布兰登贝尔/盖蒂图片社隐藏标题 切换标题

布兰登贝尔/盖蒂图片社

7 月，X 的所有者埃隆·马斯克 (Elon Musk) 分享了一则虚假广告，其中

人工智能克隆哈里斯的声音将自己描述为“终极多元化员工”，但没有透露该视频最初是作为模仿发布的。马斯克和其他特朗普支持者经常分享

人工智能模因嘲笑哈里斯和民主党人并支持前总统。特朗普本人发布了一张卡通人工智能图像，声称泰勒·斯威夫特支持他，但需要明确的是，她并没有支持他。

桑德森表示，人工智能的使用并不是为了改变人们的想法，而是为了“让他们喜欢的候选人看起来爱国或高贵，或者让他们的对手候选人看起来邪恶”。

他指出，这些操作可以使用传统的照片和视频编辑工具来完成，但“生成式人工智能让它变得更加容易。”

桑德森还警告说，人工智能的使用方式可能较不易察觉。他说：“我仍然认为，我们对于如何大规模使用生成式人工智能、由谁使用、出于何种目的使用，还没有真正良好、严格的认识。”

更重要的是，加州大学伯克利分校的法里德表示，今年发现的人工智能造假与人们的投票方式之间很难直接联系起来。

“我认为这改变了选举结果吗？不，”他说。“我认为它影响了人们的思维吗？是的，我认为它影响了。而且我认为它将继续这样做。”

NPR 的迪亚·哈迪德 (Diaa Hadid) 贡献了来自印度斋浦尔和加尔各答的报道。