加利福尼亚州萨克拉门托。(美联社) 加利福尼亚州州长加文·纽瑟姆 (Gavin Newsom) 周二签署了三项法案，旨在打击在 2024 年大选前使用人工智能在政治广告中制作虚假图像或视频的行为。
一项新法律即将出台立即生效，使得在选举日之前 120 天和之后 60 天创建和发布与选举相关的深度伪造品属于非法行为。它还允许法院停止分发材料并实施民事处罚。
维护选举的公正性对于民主至关重要，我们确保人工智能不会通过虚假信息破坏公众的信任，这一点至关重要 -纽瑟姆在一份声明中表示，尤其是在当今充满担忧的政治气氛下。这些措施将有助于打击政治广告和其他内容中深度造假的有害使用，这是国家积极培育透明和值得信赖的人工智能的几个领域之一。
还需要大型社交媒体平台根据定于明年颁布的全国首例法律删除欺骗性材料。纽瑟姆还签署了一项法案，要求政治竞选活动公开披露他们是否正在投放使用人工智能修改的材料的广告。
州长在与 Salesforce 首席执行官马克·贝尼奥夫 (Marc Benioff) 举办的一次活动中与 Salesforce 首席执行官马克·贝尼奥夫 (Marc Benioff) 交谈时签署了这些法案，赢得了热烈的掌声。大型软件公司在旧金山举行的年度会议上。
新法律重申了加州在美国人工智能监管方面的领导者地位，特别是在打击选举深度造假方面。该州是美国第一个禁止与 2019 年选举相关的篡改视频和图片的州。行业专家表示，加州立法者提出的技术和人工智能措施已被用作全国立法者的蓝图。
随着人工智能加剧了全球选举虚假信息的威胁，全国各地的立法者都竞相解决这个问题，因为他们担心被操纵的材料可能会削弱公众对其所见所闻的信任。
在不到 50 天的时间内禁止选举深度造假法案的起草者、议员盖尔·佩莱林 (Gail Pellerin) 在一份声明中表示，在大选之前，迫切需要防止可能干扰选举的误导性、经过数字修改的内容。加利福尼亚州正在反对操纵 Deepfake 技术来欺骗选民。
Newsom 做出这一决定之前，他在 7 月份发誓要打击选举 Deepfake，以回应 X 所有者埃隆·马斯克 (Elon Musk) 发布的一段视频，该视频的内容是经过修改的副总统兼民主党总统候选人卡马拉·哈里斯的照片。
加州新法律出台的同一天，国会议员公布了旨在阻止选举深度造假的联邦立法。该法案将赋予联邦选举委员会监管人工智能在选举中使用的权力，就像几十年来监管其他政治失实陈述一样。在 2 月份宣布人工智能生成的自动电话为非法，旨在阻止选民投票后，FEC 已开始考虑此类法规。
纽瑟姆将加利福尼亚州称为人工智能的早期采用者和监管者，并表示该州可能很快就会部署生成式电话人工智能工具可以解决高速公路拥堵问题并提供税收指导，尽管他的政府正在考虑针对招聘实践中人工智能歧视的新规则。
他周二还签署了另外两项法案，以保护好莱坞表演者在未经他们同意的情况下免受未经授权的人工智能使用.