支持
该州与其他数十个国家一起监管人工智能。可能影响今年总统竞选的造假行为。
斯图尔特·汤普森 (Stuart Thompson) 撰写了有关网上流传的虚假和误导性信息的文章，其中包括人工智能生成的深度伪造信息。
加利福尼亚州现在将要求社交媒体公司在民主党州长加文·纽瑟姆周二签署了三项关于这一主题的新法律后，遏制了由人工智能驱动的与选举相关的假冒行为（称为“深度造假”）的传播。
这三项法律，包括第一-对社交媒体平台提出新要求的同类法律，主要涉及禁止或标记深度伪造品。
只有其中一项法律会及时生效以影响 2024 年总统选举，但三人组可以为全国各地试图减缓人工智能操纵内容传播的监管机构提供路线图。
预计这些法律将面临来自社交媒体公司或专注于人工智能的团体的法律挑战。言论自由权。
广告
Deepfakes 使用人工智能。创建与真人相似的逼真图像、视频或音频剪辑的工具。尽管该技术已被用来创造笑话和艺术品，但它也被广泛用于加剧诈骗、制作未经同意的色情内容和传播政治错误信息。
X 的所有者埃隆·马斯克 (Elon Musk) 发布了一条专家表示，今年对他的账户进行深度造假将违反新法律。在一段观看数百万次的视频中，马斯克发布了民主党候选人、副总统卡玛拉·哈里斯的虚假音频，称自己是最终的多元化员工。
加利福尼亚州的新法律加强了数十个州限制多元化的努力。人工智能的传播围绕选举和性内容的虚假内容。许多人要求在欺骗性音频或视频媒体上贴上标签，这是监管激增的一部分，并得到了两党的广泛支持。有些监管了与选举相关的深度造假，但大多数都专注于深度造假色情内容。尽管已经提出了几项提案，但并没有禁止甚至监管深度造假的联邦法律。
加州政策制定者对监管人工智能非常感兴趣，其中包括一项要求科技公司进行测试的新立法强大人工智能的安全性工具，然后再向公众发布。州长必须在 9 月 30 日之前签署或否决其他立法。
几个州已经通过或似乎准备通过有关选举的 Deepfake 监管法律。
2024 年颁布
2024 年之前颁布
等待州长签署
WA
ME
MT
ND
MN
VT
OR
NH
SD
MA
ID
WI
纽约
WY
MI
RI
CT
IA
PA
NB
新泽西
>内华达州
俄亥俄州
伊利诺伊州
德国
印第安纳州
UT
CO
WV
MD
KS
Ca
VA
莫
肯塔基州
北卡罗来纳州
田纳西州
确定
AR
AZ
SC
NM
GA
MS
AL
TX
洛杉矶。
AK
FL
HI
周二签署的两项法律对与选举相关的方式进行了限制深度造假，包括针对候选人和官员或质疑选举结果的深度造假可以传播。
广告
其中一项立即生效，并有效禁止个人或团体故意分享某些欺骗性选举-相关的深度造假。与其他州的法律类似，该法案在选举前 120 天内可执行，但在有迹象表明立法者担心计票过程中错误信息传播后，该法案仍可在 60 天内强制执行。
另一项将于一月生效，要求在人工智能帮助生成的政治广告中的欺骗性音频、视频或图像上显示标签。
第三项法律名为《捍卫民主免受 Deepfake 欺骗法案》，将于 1 月生效，要求加州拥有超过 100 万用户的社交媒体平台和其他网站标记或删除人工智能。收到投诉后 72 小时内进行 Deepfakes。如果该网站不采取行动，法院可以要求他们采取行动。
公共公民民主团队的组织经理伊拉娜·贝勒 (Ilana Beller) 表示，这与已提出的其他法案非常不同，该公司追踪了全国范围内的深度造假法律。这是州一级唯一的此类法案。
广告
这三项法案仅适用于可能欺骗选民的深度假货，只要满足以下条件，就为讽刺或戏仿敞开大门：它们被贴上标签，并且实际上仅限于选举前后的时期。尽管这些法律仅适用于加利福尼亚州，但它们管辖描绘总统和副总统候选人以及数十名全州候选人、民选官员和选举管理员的深度伪造品。
纽瑟姆周二还签署了另外两项法律，规范好莱坞如何使用 Deepfake 技术：一项要求明确同意使用表演者的 Deepfake 技术，另一项要求获得遗产委员会的许可，才能在电影或有声读物等商业媒体中描绘已故表演者。
立法者由于联邦法律（称为“第 230 条”）保护社交媒体公司免于对用户发布的内容承担责任，因此通常没有通过管理社交媒体公司如何管理内容的法律。第一修正案还为社交媒体公司和用户提供了广泛的保护，限制了政府监管网上言论的方式。
他们实际上要求平台做我们认为不可行的事情，助理海莉·冢山 (Hayley Tsukayama) 说旧金山数字权利组织电子前沿基金会的立法活动主任，该基金会写信反对新法律。要说他们将能够识别什么是真正的欺骗性言论，什么是讽刺，或者什么是受第一修正案保护的言论，这将非常困难。
法律支持者认为，因为它不会对不遵守法律的公司处以经济处罚，第 230 条可能不适用。
广告
许多言论自由和数字权利团体，包括第一修正案联盟，强烈反对这些法律。
当然，有些人可能散布谎言，这是一个与政治、民主、言论一样古老的问题，该公司的法律总监戴维·洛伊(David Loy)说。第一修正案联盟。第一修正案的前提是由媒体、公众和民间社会来解决这个问题。
斯图尔特 A. 汤普森 (Stuart A. Thompson) 撰写了有关虚假和误导性信息如何在网上传播及其如何影响世界各地人们的文章。他专注于错误信息、虚假信息和其他误导性内容。关于斯图尔特·汤普森的更多信息
广告