以下是加州现行的18项（还在增加）人工智能法规中禁止的内容 | TechCrunch

九月，加州州长加文·纽森考虑了与人工智能相关的38项法案，其中包括极具争议的SB 1047，该州立法机构将其送交他进行最终批准。他否决了SB 1047法案在周日，标志着加州争议不断的AI法案的终结，该法案试图防止AI灾难，但本月签署了十几项其他AI法案成为法律。这些法案旨在解决人工智能领域最紧迫的问题：从AI风险到由AI图像生成器创建的深度伪造色情图片，再到好莱坞工作室利用AI克隆已故演员。

“作为全球大多数领先人工智能公司的所在地，加州正在努力利用这些变革性技术来帮助应对紧迫的挑战，同时研究它们带来的风险，”纽森州长办公室表示。新闻稿.

截至目前，纽森州长已签署了18项与人工智能相关的法案成为法律，其中一些是美国迄今为止最具有前瞻性的生成式人工智能法规。以下是这些法案的内容。

人工智能风险

周日，纽森州长签署SB 896签署成为法律，要求加州紧急服务办公室对生成式人工智能可能带来的威胁进行风险分析。CalOES将与前沿模型公司（如OpenAI和Anthropic）合作，分析人工智能对关键州基础设施的潜在威胁，以及可能导致大规模伤亡事件的威胁。

训练数据

本月纽森签署的另一项法律要求生成式AI提供商在其网站上发布的文件中披露用于训练其AI系统的数据。AB 2013将于2026年生效，要求AI提供商公布：其数据集的来源、如何使用这些数据的说明、集合中的数据点数量、是否包含受版权保护或有许可的数据、数据收集的时间段等其他标准。

隐私和人工智能系统

纽森也签署了AB 1008星期天通过的一项法令明确了加州现有的隐私法律也适用于生成式人工智能系统。这意味着，如果像ChatGPT这样的AI系统暴露了某人的个人信息（如姓名、地址、生物识别数据），加州现有的隐私法律将限制企业如何使用和获利利用这些数据。

教育

纽森签署AB 2876本月，加州州教育委员会被要求在其数学、科学和历史课程框架及教学材料中考虑“人工智能素养”。这意味着加州的学校可能会开始教导学生了解人工智能的基本工作原理，以及使用这项技术的限制、影响和伦理考量。

另一项新法律，SB 1288要求加州学监成立工作小组，探讨人工智能在公立学校教育中的应用。

定义人工智能

本月，纽森签署了一项法案，在加州法律中建立了人工智能的统一定义。AB 2885声明人工智能被定义为“一种工程化或基于机器的系统，其自主程度有所不同，并且可以为了明确或隐含的目标，从接收的输入中推断出如何生成能够影响物理或虚拟环境的输出。”

医疗卫生

另一项9月签署的法案是AB 3030要求医疗服务提供者在使用生成式人工智能与患者沟通时进行披露，特别是当这些消息包含患者的临床信息时。

与此同时，纽森最近签署了个案通知书中的“signed”在此没有具体的上下文含义，因此保持原样。原文： Meanwhile, Newsom recently signedSB 1120该法律对医疗保健服务提供商和健康保险公司的自动化服务进行了限制。该法律确保持照医师监督这些环境中人工智能工具的使用。

AI自动语音呼叫系统

上周五，纽森州长签署了一项法案，要求自动电话呼叫披露是否使用了人工智能生成的声音。AB 2905旨在防止再次发生类似的事件以乔·拜登的声音为特征的深度伪造机器人电话欺诈今年早些时候让许多新罕布什尔州选民感到困惑的事情。

深度伪造色情制品

星期日，纽森签署了AB 1831成为法律，将现有的儿童色情制品法律的适用范围扩大到包括由人工智能系统生成的内容。

纽森上周签署两项法律，以应对深度伪造裸照的制作和传播。SB 926将此种行为定为犯罪，使之成为非法行为，禁止用与某人相似的AI生成的裸体图像对其进行勒索。

SB 981另一项同样于周四生效的法律要求社交媒体平台建立渠道，让用户可以举报与自己相似的深度伪造色情内容。该内容在被调查期间必须暂时屏蔽，如果确认为真实则需永久删除。

水印

周四，纽森签署了一项法案成为法律，以帮助公众识别人工智能生成的内容。 SB 942要求广泛使用的生成式人工智能系统在其内容的来源数据中披露它们是由人工智能生成的。例如，现在由OpenAI的Dall-E创建的所有图像都需要在其元数据中添加一个小标签，说明这些图像是由人工智能生成的。

许多人工智能公司已经做到了这一点，市面上有许多免费工具可以帮助人们阅读这些出处数据并检测人工智能生成的内容。

选举深度伪造技术

本周早些时候，加州州长签署了三项针对可能影响选举的AI深度伪造技术的新法律。

加州的新法律之一，AB 2655要求类似Facebook和X的大型在线平台移除或标注与选举相关的AI深度伪造内容，并建立渠道以报告此类内容。候选人和当选官员如果发现大型在线平台不遵守该法案，可以寻求禁令救济。

另一项法律，AB 2839针对在社交媒体上发布或重新发布可能误导选民关于即将到来的选举的人工智能深度伪造内容的用户，该法律于周二立即生效，Newsom建议埃隆·马斯克可能有违反的风险.

根据加州的新法律，现在要求生成的政治广告必须明确披露。AB 2355这意味着，在未来，特朗普可能无法再在Truth Social上发布泰勒·斯威夫特支持他的AI深度伪造视频（她实际上支持的是卡马拉·哈里斯）。FCC有提出了类似的国家层面的披露要求并且已经将使用人工智能生成的声音进行自动拨号呼叫定为非法.

演员和人工智能

新闻姆本月早些时候签署的两项法律——这是美国最大的电影和广播演员工会SAG-AFTRA推动的——为加州的媒体行业制定了新的标准。AB 2602要求工作室要获得演员的许可在创建其声音或形象的人工智能复制品之前。

与此同时，AB 1836禁止工作室在未经已故表演者遗产管理人同意的情况下创建数字复制品（例如，最近的“异形”和“星球大战”电影中使用的合法授权复制品，以及其他影片中的使用）。

SB 1047被否决了

纽森州长仍在9月底之前需要决定一些与人工智能相关的法案。然而，SB 1047并不是其中之一——该法案已于周日被否决。

在一个解释他决定的信件纽森表示，SB 1047过于狭隘地关注大型AI系统，这可能会“给公众一种虚假的安全感。”加州州长指出，小型AI模型可能与SB 1047所针对的大型模型一样危险，并认为需要一个更为灵活的监管方法。

本月早些时候，在2024年Dreamforce大会期间与Salesforce首席执行官马克·贝尼奥夫进行交谈时，纽森可能已经提及了SB 1047法案以及他如何考虑更广泛地监管人工智能行业。

“有一项法案在公众讨论和意识中显得格外突出，那就是SB 1047，”纽森本月在台上说。“人工智能的实际风险有哪些，假设性风险又有哪些？我不能解决所有问题。我们可以解决什么问题呢？这就是我们在整个范围内采取的应对方式。”

查看本文以获取加州州长签署的AI法律的更新，以及他没有签署的内容。