加利福尼亚州萨克拉门托（美联社）) 在加州州长加文·纽瑟姆 (Gavin Newsom) 本周在旧金山举行的人工智能会议上签署了三项具有里程碑意义的提案后，加州现在制定了美国最严厉的一些法律，在 2024 年大选之前打击选举深度造假行为。
该州可能是首批测试此类立法的国家之一，该立法禁止在选举日临近时使用人工智能在政治广告中创建和传播虚假图像和视频。
但现在，三者中的两个这些法律，包括旨在遏制 2024 年选举中这种做法的一项法律，正在通过周二在萨克拉门托提起的诉讼在法庭上受到质疑。
其中包括一项立即生效的法律，允许任何个人提起诉讼一项是要求 X 等大型在线平台从明年开始删除欺骗性材料。
这起诉讼是由一名制作恶搞视频的人提起的，该视频的内容是经过修改的副总统和副总统的音频。民主党总统候选人卡马拉·哈里斯表示，这些法律审查言论自由，并允许任何人对他们不喜欢的内容采取法律行动。社交媒体平台 X 的所有者埃隆·马斯克 (Elon Musk) 至少分享了他的一个视频，这促使纽瑟姆发誓要禁止在 X 上的帖子中发布此类内容。
州长办公室表示，法律并没有规定禁止讽刺和模仿内容。相反，它要求在修改后的视频或图像中显示人工智能的使用情况。
纽瑟姆发言人伊兹·加登(Izzy Gardon)在一份声明中表示，目前尚不清楚这位保守派活动人士为何起诉加州。这项针对选举错误信息的新披露法并不比包括阿拉巴马州在内的其他州已经通过的法律更加繁重。
代表申诉人的律师西奥多·弗兰克 (Theodore Frank) 表示，加州的法律影响太大，旨在强迫社交媒体公司审查和骚扰人们。
我不熟悉阿拉巴马州的法律。另一方面，阿拉巴马州州长并没有像加利福尼亚州州长那样威胁我们的客户，他告诉美联社。
这起诉讼似乎是美国针对此类立法的首批法律挑战之一。美国弗兰克告诉美联社，他计划在明尼苏达州就类似法律提起另一场诉讼。
在人工智能的出现开始加剧全球选举虚假信息的威胁后，十多个州的州立法者提出了类似的提议
纽瑟姆周二签署的三项法律中，其中一项立即生效，旨在防止围绕 2024 年大选的深度造假，而且范围最广泛。它不仅针对可能影响人们投票方式的材料，还针对任何可能歪曲选举公正性的视频和图像。该法律还涵盖描述选举工作人员和投票机的材料，而不仅仅是政治候选人。
该法律规定，在选举日之前 120 天和之后 60 天制作和发布与选举相关的虚假材料属于违法行为。它还允许法院停止分发材料，违规者可能面临民事处罚。该法律豁免模仿和讽刺。
纽瑟姆和立法者表示，其目标是防止公众对美国选举的信任在充满忧虑的政治气氛中受到侵蚀。
但批评者，例如言论自由倡导者和马斯克称加州新法律违宪，并且侵犯了第一修正案。在它们签署成为法律几小时后，马斯克周二晚上在 X 上发布了一个帖子，分享了一段人工智能生成的视频，其中包含修改过的哈里斯的音频。
加利福尼亚州州长刚刚将这段模仿视频定为非法，违反了美国宪法。马斯克在谈到人工智能生成的视频时写道，如果它被病毒式传播，那将是一种耻辱，该视频的标题表明该视频是一个模仿作品。
目前尚不清楚这些法律在阻止选举深度造假方面有多有效，非营利消费者权益组织 Public Citizen 的伊拉娜·贝勒 (Ilana Beller) 说道。该组织追踪与选举深度造假相关的州立法。贝勒说，这些法律都没有在法庭上经过测试。
法院对一项可以为政治广告制作虚假图像并以极快的速度传播这些图像的技术处理缓慢，可能会削弱法律的有效性。.
贝勒说，法院可能需要几天时间才能下令采取禁令救济来停止内容的分发，而到那时，对候选人或选举的损害可能已经造成了。
在理想的世界中，我们能够在内容发布后立即将其撤下，她说。因为你越早删除内容，看到它的人就越少，通过转发等方式扩散它的人就越少，你就能越快消除它。
尽管如此，有这样的法律她说，这些书可以对潜在的违法行为起到威慑作用。
议员盖尔·佩勒林拒绝就该诉讼发表评论，但表示她撰写的法律是避免错误信息的简单工具。
<佩勒林说，我们想说的是，嘿，只需将该视频标记为出于模仿目的而经过数字修改即可。因此，很明显，这是为了讽刺或模仿。纽瑟姆周二还签署了另一项法律，要求竞选活动从明年 2024 年大选后开始披露人工智能生成的材料。