加利福尼亚州州长 Gavin Newsom 今天否决了《前沿人工智能模型安全可靠创新法案》(SB 1047)。纽瑟姆州长在否决信息中列举了其决定中的多个因素，包括该法案会给人工智能公司带来的负担、加州在该领域的领先地位，以及对该法案可能过于宽泛的批评。
<块引用>虽然本意是好的，但 SB 1047 并未考虑人工智能系统是否部署在高风险环境中、是否涉及关键决策或敏感数据的使用。相反，该法案对即使是最基本的功能也应用了严格的标准，只要大型系统部署它即可。我不认为这是保护公众免受该技术构成的真正威胁的最佳方法。
纽瑟姆写道，该法案可能会让公众对控制这种快速发展的技术产生错误的安全感。
<块引用>更小的、专门的模型可能会与 SB 1047 所针对的模型同等甚至更危险 - 其代价是可能会限制推动有利于公共利益的进步的创新。
州长表示，他同意应该制定安全协议和护栏，并对不良行为者施加明确且可执行的后果。然而，他表示，他认为国家不应该接受没有经过对人工智能系统和能力的经验轨迹分析的解决方案。
以下是完整的否决消息：
在 X 上的一篇帖子中，该法案的主要作者、参议员斯科特·维纳 (Scott Wiener) 称，对于那些相信对大型企业进行监督的人来说，否决权是一次挫折，这些企业正在做出影响公共安全和福利以及地球未来的关键决策。
<块引用>这一否决给我们留下了一个令人不安的现实，即旨在创造极其强大技术的公司不会面临美国政策制定者的具有约束力的限制，特别是考虑到国会在以任何有意义的方式监管科技行业方面持续瘫痪。
8 月下旬，SB 1047 到达州长 Newsom 的办公桌，有望成为美国人工智能领域最严格的法律框架，签署或否决的截止日期为 9 月 30 日。
它将适用于在加州开展业务的人工智能公司，其模型的培训成本超过 1 亿美元，微调成本超过 1,000 万美元，并增加了开发人员实施终止开关等保护措施并制定测试协议的要求减少发生网络攻击或流行病等灾难性事件的可能性。该文本还规定了对举报违规行为的举报人的保护，并使 AG 能够就安全事件造成的损失提起诉讼。
自推出以来发生的变化包括取消设立新监管机构的提案，并赋予州总检察长在潜在事件发生之前起诉开发商的权力。该法律涵盖的大多数公司都反对该立法，尽管有些公司在这些修正案之后不再提出批评。
OpenAI 首席战略官 Jason Kwon 在给法案作者参议员 Wiener 的一封信中表示，SB 1047 会减缓进展，联邦政府应该负责人工智能监管。与此同时，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 在法案修改后写信给州长，列出了他认为的优点和缺点，并表示：……新的 SB 1047 得到了实质性改进，以至于我们相信其收益可能超过其成本。
代表亚马逊、Meta 和谷歌的联盟进步商会 (Chamber of Progress) 同样警告称，该法律将阻碍创新。
Google 发言人 Jenn Crider 在发给 The Verge 的电子邮件声明中表示：
<块引用>我们与许多小型和大型开发商一起感谢纽瑟姆州长帮助加州继续引领构建负责任的人工智能工具，造福加州、我们的国家和世界。我们期待与州长负责任的人工智能计划和联邦政府合作，制定适当的保障措施并开发帮助每个人的工具。
Meta 公共事务经理 Jamie Radice 通过电子邮件向 The Verge 发送了 Metas 否决声明：
<块引用>我们很高兴纽瑟姆州长否决了 SB1047。该法案将扼杀人工智能创新，损害业务增长和创造就业机会，并打破该州促进开源发展的长期传统。我们支持负责任的人工智能法规，并继续致力于与立法者合作，推广更好的方法。
该法案的反对者包括前众议院议长南希·佩洛西、旧金山市长伦敦·布里德和来自加利福尼亚州的八名国会民主党人。另一方面，直言不讳的支持者包括埃隆·马斯克(Elon Musk)、马克·哈米尔(Mark Hamill)、艾莉莎·米兰诺(Alyssa Milano)、珊达·莱姆斯(Shonda Rhimes)和J.J.Abrams 以及 SAG-AFTRA 和 SEIU 等工会。
联邦政府也在研究监管人工智能的方法。5 月，参议院提出了一项 320 亿美元的路线图，涵盖了立法者应研究的几个领域，包括人工智能对选举、国家安全、受版权保护的内容等的影响。
9 月 30 日更新：更新了 Google 发言人 Jenn Crider 的声明来源。