加利福尼亚州州长加文·纽瑟姆警告说，民主正处于边缘。罪魁祸首？由生成式人工智能驱动的虚假信息浪潮，即将以前所未有的方式污染我们的信息生态系统。随着 2024 年大选的临近，纽瑟姆和加州民主党人认为，人工智能生成的内容可能会扭曲公众的看法。作为回应，金州迅速颁布了两项大胆的新法律，旨在阻止欺骗性内容在互联网上传播的浪潮。
这些法律不仅可能违反第一修正案，该修正案甚至保护虚假的政治言论，而且还根源于对人工智能虚假信息的夸大恐惧。
副总统卡玛拉·哈里斯 (Kamala Harris) 的一段明显深度伪造的视频被埃隆·马斯克 (Elon Musk) 广泛分享，促使纽瑟姆推动规范在线言论，但当然，这些法律也将禁止许多模仿唐纳德·特朗普 (Donald Trump) 的人工智能视频。
正如研究人员所指出的……虚假信息的范围和影响通常比危言耸听的情景假设的要小得多。
可以肯定的是，虚假信息、深度造假和宣传可以传播并对现实生活产生影响。但正如研究人员大多置若罔闻地指出的那样，迄今为止，虚假信息的范围和影响通常比危言耸听的情景假设的要小得多。麻省理工学院研究人员最近的一项研究发现，人类经常可以通过音频和视觉线索来辨别深度伪造品。这就是为什么广泛传播的哈里斯或特朗普的深度伪造品未能让任何人相信它们是真实的。
此外，仔细观察 2024 年世界各地的选举就会发现，人们对人工智能深度造假的担忧在很大程度上被夸大了。
在今年夏天的欧洲议会选举之前，一个又一个的头条新闻敲响了警钟：人工智能可能会加剧虚假信息，并危及民主的未来。俄罗斯宣传和人工智能的完美风暴可能会淹没 27 个国家 3.73 亿合格选民的选举公正性。
在 6 月大选之前，这一信息得到了智囊团、研究人员和欧盟领导人的响应。欧盟委员会负责价值观和透明度的副主席弗拉·朱罗夫 (Vra Jourov) 表示，政客的人工智能深度伪造可能会制造出原子弹……以改变选民偏好的进程。作为回应，欧盟委员会向社交媒体平台发出警报，并设立危机部门，预计在投票后数周内应对对选举结果合法性提出质疑的行为。
所以发生了什么？尽管社交媒体平台上存在活跃的虚假信息网络，但由欧盟资助且经常危言耸听的欧洲数字媒体观察站并未发现与虚假信息相关的重大事件或大量深度造假事件。在英国选举中，英国事实核查组织 FullFact 告诉 Politico，“还没有一个 [深度造假] 刚刚主导了实际竞选活动的一天。
世界其他地方呢？许多国家都举行了选举，其中一些国家的民主机构弹性较差，选举程序也比欧洲民主国家更脆弱。
《华盛顿邮报》的一篇文章强调印度 2024 年的选举是人工智能如何改变民主的预演。研究人员发现，尽管人工智能充斥着深度造假，但它几乎没有产生什么影响，反而通过连接选民而产生了积极的影响。
这些选举结果表明，有足够数量的选民能够独立思考，不会盲目相信谎言宣传和胡言乱语。
在巴基斯坦和印度尼西亚，观察员报告的虚假信息极少，社交媒体上的病毒式假新闻经过事实核查。台湾民间社会团体和政府机构的联盟确保了透明度和众包事实核查，减轻了中国的干预企图。
到目前为止，世界各地的民主国家的韧性比许多人担心的要高，这应该是一个积极的故事。更重要的是，这些选举结果表明，足够多的选民能够独立思考，不会盲目相信谎言、宣传和废话，即使这些内容是用尖端技术精心制作的。
随着 2024 年美国大选临近，我们应该保持警惕，但要抵制以打击虚假信息为名而牺牲言论自由的冲动。我们的民主比恐吓者所暗示的更有弹性。
另一方面，加州的两项新法律是恐慌驱动的且适得其反，它们为国家批准的合法言论审查打开了大门。
A.B.2839 禁止对政治候选人使用人工智能深度伪造，而 A.B.2655要求大型平台屏蔽有关政客的欺骗性内容，在36小时内回复每一条公众投诉，并删除实质相似的内容。
这两项法律都将压制政治言论，侵犯加州人批评政客的能力，损害平台审核内容的权利，甚至阻止人们将欺骗性内容强调为虚假内容。
必须阅读今天的列表
虽然 A.B.2839 豁免政治讽刺和戏仿，它要求责任者披露实质上具有欺骗性的内容不是真实的，如果评论者必须声明他们只是在开玩笑，这肯定会削弱这些信息的影响力。
这两项法律都会抑制政治言论，侵犯加州人批评政客的能力。
我们还应该明智地记住，那些制造有关人工智能虚假信息的头条新闻并坚持认为应该信任他们来定义这一模糊概念的政客往往是政治错误信息的来源。
我们不应该屈服于精英恐慌，而应该面对虚假信息的挑战，同时听取前最高法院法官安东尼·肯尼迪的话，他说，我们的宪法传统反对我们需要大洋洲真理部的想法。在捍卫言论自由时，我们必须避免授予政府前所未有的权力来决定真相是什么，并认识到对民主的最大威胁往往来自那些声称保护民主的人。
（披露：言论自由的未来是一个与范德比尔特大学和丹麦 Justitia 合作的无党派智囊团。它从 Google 获得了有限的财政支持，用于与本文主题无关的特定项目。总而言之在这种情况下，言论自由的未来保留其工作的完全独立性和最终权威。）