加州州长纽森否决了导致硅谷分裂的人工智能安全法案
加利福尼亚州的加文·纽瑟姆 (Gavin Newsom) 周日否决了一项法案，该法案本将针对蓬勃发展的人工智能行业制定美国影响最深远的法规。
加利福尼亚州立法者以压倒性多数通过了这项名为 SB 1047 的法案，该法案被视为国家人工智能立法的潜在蓝图。
该措施将使科技公司对人工智能模型造成的损害承担法律责任。此外，该法案还要求科技公司在人工智能技术被滥用或失控的情况下启用终止开关。
纽瑟姆称该法案是善意的，但指出其要求纽瑟姆在否决信息中表示，该法案过于关注最大、最强大的人工智能模型，并称规模较小的新贵可能会被证明同样具有破坏性。
“更小的、专门的模型可能会出现与 SB 1047 所针对的模型同样甚至更危险的情况，其潜在代价是削弱推动进步的创新，从而有利于公共利益，”纽森写道。
该法案的共同作者之一、加州参议员斯科特·维纳批评了纽森的举动，称否决权是人工智能问责制的挫折。
维纳在 X 上写道：“这一否决给我们留下了一个令人不安的现实，即旨在创造极其强大技术的公司不会面临美国政策制定者的具有约束力的限制，特别是考虑到国会在以任何有意义的方式监管科技行业方面持续瘫痪。”>
现已被否决的法案将迫使业界对强大的人工智能模型进行安全测试。维纳周日写道，如果没有这样的要求，该行业就只能自我监管。
“虽然大型人工智能实验室在监控和减轻这些风险方面做出了令人钦佩的承诺，但事实是，行业的自愿承诺是不具有可执行性，而且很少对公众产生良好效果。”
硅谷的许多强大参与者，包括风险投资公司 Andreessen Horowitz、OpenAI 以及代表 Google 和 Meta 的贸易团体，都游说反对该法案，认为该法案会影响减缓人工智能的发展并抑制早期公司的增长。
SB 1047 将威胁这种增长，减缓创新的步伐，并导致加州的世界级工程师和企业家离开该州寻找OpenAI 首席战略官 Jason Kwon 在上个月发给 Wiener 的一封信中写道，其他地方有更多机会。
然而，其他科技领袖也支持该法案，包括埃隆·马斯克 (Elon Musk) 以及杰弗里·辛顿 (Geoffrey Hinton) 和约书亚·本吉奥 (Yoshua Bengio) 等人工智能先驱科学家，他签署了一封敦促纽瑟姆签署的信函。
我们认为，最强大的人工智能模型可能很快就会带来严重的风险，例如扩大生物武器的使用范围和对关键基础设施的网络攻击。Hinton 和数十位领先人工智能公司的前任和现任员工写道，前沿人工智能公司测试最强大的人工智能模型是否会造成严重危害，并针对此类风险实施合理的保障措施是可行且适当的。
周日，维纳在他的 X 帖子中称否决权对于“每个相信对正在做出影响公众安全和福祉的关键决策的大型公司进行监督的人来说是一个“挫折”。
我关于州长否决 SB 1047 的声明：pic.twitter.com/SsuBvV2mMI
参议员 Scott Wiener (@Scott_Wiener) 2024 年 9 月 29 日
其他州，例如科罗拉多州和犹他州颁布了更为狭隘的法律，以解决人工智能如何在就业和医疗保健决策中长期存在偏见，以及其他与人工智能相关的消费者保护问题。
Newsom 最近签署了其他人工智能法案写入法律，其中包括一项旨在打击选举期间深度造假行为传播的法律。另一项是保护演员，防止他们的肖像在未经他们同意的情况下被人工智能复制。
随着数十亿美元投入人工智能的开发，并且随着它渗透到日常生活的更多角落，华盛顿的立法者仍然没有提出一个解决方案。单一的联邦立法来保护人们免受其潜在危害，也不对其快速发展进行监督。