市长选举可能因一位年轻的民主社会主义者的非凡胜利而被人们铭记，但它也有一个可能渗透到未来选举中的特征：人工智能生成的竞选视频的使用。安德鲁·科莫，谁输给了佐兰·马姆达尼
在上周的选举中，他特别有兴趣分享对手的深度造假视频，其中包括引发种族主义指控的视频，这是一个正在发展的竞选领域。人工智能以前曾被竞选活动使用过，特别是使用算法来瞄准某些选民，甚至在某些情况下，用来撰写政策提案。但随着人工智能软件的发展，它越来越多地被用来制作有时具有误导性的照片和视频。“我认为，本次选举周期中真正的突破是使用生成式人工智能来生成直接发送给选民的内容，”纽约州众议员亚历克斯·博雷斯(Alex Bores)说，他一直处于引入监管人工智能使用法律的最前沿。
– 那么这是否是科莫的竞选活动
使用 ChatGPT 生成其住房计划
，或者科莫和许多其他人为选民制作人工智能生成的视频广告，我认为，这在 2025 年周期中感觉非常新，或者肯定比我们以前见过的要远得多。”9 月份退出竞选的现任市长埃里克·亚当斯 (Eric Adams) 使用了人工智能创建自动呼叫
纽约人以他的普通话、乌尔都语和意第绪语演讲为特色，还制作了一段人工智能视频将纽约描绘成一个明显饱受战争蹂躏的反乌托邦，以攻击马姆达尼。与此同时，科莫在竞选后被指控种族主义和伊斯兰恐惧症在推特上发布了视频
其中展示了虚构版本的马姆达尼用手指吃米饭和一名黑人入店行窃的故事。该广告还出现了一名黑人男子，身穿紫色衬衫、领带和毛皮大衣，手持银色手杖，似乎支持性贩运。科莫竞选团队后来将其删除，并称其是意外发送的。
正在竞选纽约州众议院议员的博雷斯表示，上个选举周期中的许多人工智能生成的广告“更有可能”“转向可能被视为偏执的领域”。
我认为这是我们需要跟踪的另一件事：这要么是因为算法在训练数据中渲染了刻板印象，要么是因为它很容易操纵。你不必告诉某个种族的演员做某件事，你只需在计算机中更改它即可，”博雷斯说。
– 您不必对某人的脸说才能以某种方式描绘自己。这是否会让人们更容易发布我认为礼貌社会应该皱眉的内容？
在纽约州，竞选活动应该给人工智能广告贴上这样的标签，但有些广告——包括科莫发布和删除的广告——却没有这样做。纽约选举委员会负责对竞选活动提出潜在的紧迫指控，但博雷斯指出，竞选活动可能愿意硬着头皮接受任何惩罚，特别是在竞选结束后进行惩罚。
——我认为你总是会找到愿意做出这种权衡的竞选活动。如果他们赢了，然后支付罚款，他们就不会在意，如果他们输了，也没关系，”博雷斯说。“因此，你需要尝试找到一种能够在选举前迅速解决问题的执行机制，而不是事后才进行惩罚。”
非营利倡导组织 Public Citizen 的联合主席罗伯特·韦斯曼 (Robert Weissman) 参与了美国各地许多人工智能法律的通过，他表示，现在在超过一半的州，试图愚弄人们是非法的，需要在生成人工智能广告上张贴免责声明，称这些广告不是真实的。他表示，尽管如此，规范竞选中人工智能的使用仍然是一个紧迫的问题。
——自古以来，谎言就是政治的一部分。这与谎言不同，也与说你的对手说了他们没有说过的话不同，”韦斯曼说。
“当某人看到某人所说某事的明显真实版本时，该人很难反驳它并说“我从来没有这么说过”，因为你要求人们不相信他们亲眼所见。”
虽然人工智能现在能够生成可信的视频，但一些活动还没有完全做到这一点。一个– Zohran 万圣节特别节目 – 视频Cuomo 发布的广告——这则广告确实声明它是人工智能生成的——展示了 Mamdani 的极其草率的演绎，包括不同步的音频和难以理解的脚本。
随着中期选举的临近和 2028 年总统选举的临近，人工智能生成的政治视频可能会继续存在。
它们已经在国家层面得到使用。埃隆·马斯克分享了一段人工智能生成的视频2024 年 7 月，卡玛拉·哈里斯 (Kamala Harris) 成为事实上的民主党总统候选人。该视频描绘了哈里斯声称她是“终极多元化雇员”，并表示她“不知道管理国家的首要事情”。
尽管各州可能在规范选举中人工智能的使用方面取得进展，但联邦层面似乎没有兴趣这样做。
在 10 月份的“无王”抗议活动中，唐纳德·特朗普分享了一段人工智能视频，视频中他驾驶战斗机并向美国人身上滴棕色液体，只是他最新的人工智能视频帖子。
由于特朗普显然认可这种媒介，共和党人似乎不太可能很快试图控制人工智能。