加利福尼亚州州长加文·纽瑟姆 (Gavin Newsom) 否决了一项史无前例的州法案，该法案可能会制定该国最具影响力的人工智能法规。
这项措施被称为《前沿人工智能模型安全创新法案》，要求花费超过 1 亿美元来训练人工智能模型的公司采取安全措施。它旨在防止人工智能造成的潜在危害，例如大规模伤亡事件，并包括实施“终止开关”以完全关闭流氓模型。
加利福尼亚州是一些人工智能巨头的所在地，包括 OpenAI、Anthropic、Google (GOOG) 和 Meta (META)。然而，纽瑟姆在周日下午的否决信息中表示，SB 1047 是“善意的”，但它“没有考虑人工智能系统是否部署在高风险环境中、涉及关键决策或使用相反，该法案甚至对最基本的功能都采用了严格的标准，只要大型系统部署了它，我认为这不是保护公众免受该技术构成的真正威胁的最佳方法。
除了否决之外，纽瑟姆还宣布他正在与包括“人工智能教母”李飞飞在内的领先专家合作，围绕生成式人工智能的部署设置护栏。他还命令国家机构扩大对与该技术相关的风险的评估。
监管该技术一直是硅谷及其他地区的热点问题。OpenAI、谷歌和 Meta 公开反对该法案。由亚马逊 (AMZN) 支持的 Anthropic 在对其原始版本提出修改建议后谨慎支持。
尽管遭到大型科技公司的反对，谷歌、Meta、OpenAI 和 Anthropic 的 100 多名现任和前任员工仍呼吁纽瑟姆在本月早些时候签署这项立法，表达了对最强大的人工智能模型可能很快会带来严重风险的担忧.
超过 125 名好莱坞演员、导演和娱乐界领袖也敦促纽瑟姆签署该法案，并在一封信中写道：“我们完全相信人工智能具有令人眼花缭乱的潜力，可以用于公益事业。但我们也必须现实一点关于风险。”
SB 1047 必须在鼓励快速变化的行业创新和确保负责任地使用技术之间发挥作用。
Newsom 在本月早些时候的 Dreamforce 年度会议上与 Salesforce (CRM) 首席执行官 Marc Benioff 讨论了他对 SB 1047 的担忧。“在几年内签署错误法案的影响可能会产生深远的影响，”纽瑟姆在谈到该州的竞争力时说道。
“这是一个我们占主导地位的领域，我想保持我们的主导地位。我想保持我们的创新。我想保持我们的生态系统。我想继续领先。同时，你会感受到一种深深的我认为我们许多人都有责任感来解决一些更极端的担忧，即使是这项技术最大、最强大的推动者也有这种担忧。”
该立法的支持者包括“人工智能教父”Yoshua Bengio 和 Geoffrey Hinton，以及拥有大型人工智能模型公司 xAI 的亿万富翁科技首席执行官埃隆·马斯克 (Elon Musk)。
“人工智能模型的能力正在以非常快的速度增长，为达到通用人工智能甚至更高水平而投入的资金也在不断增加，”本吉奥告诉雅虎财经。“少数大公司为了实现这一既定目标，在没有适当护栏的情况下相互竞争，给我们的社会和民主国家带来了重大风险。”
该法案的主要作者、加利福尼亚州参议员斯科特·维纳 (Scott Wiener) 表示，对于监管不足的技术来说，这是一个合理的框架。维纳一直直言需要制定强有力的联邦法律，为所有开发商设置全国范围的护栏。
然而，维纳并不希望国家人工智能安全法案很快成为现实，他在上个月的新闻发布会上称国会“在技术政策方面完全瘫痪”。
“让我明确地说，我同意作者的观点，我们不能等到重大灾难发生才采取行动保护公众，”纽瑟姆写道，并补充道，“但是，我不同意保持为了公共安全，我们必须接受一种没有对人工智能系统和能力进行实证轨迹分析的解决方案，最终，任何有效监管人工智能的框架都需要跟上技术本身的步伐。”
该法案旨在重塑人工智能的未来，许多科技高管已经发声。
Affirm (AFRM) 首席执行官马克斯·莱夫钦 (Max Levchin) 告诉雅虎财经：“存在与人工智能相关的风险，与模型本身无关，更多的是与模型在完全不受监督的情况下在现实世界中被允许执行的操作有关。”在高盛 Communacopia 和技术会议上。
“因此，我并没有减少或忽视对控制、模型治理、监督以及深思熟虑的规则制定的需求。我只是不想引用另一位人工智能末日论者的话‘将其全部关闭’。”
尽管该法案在 8 月份以 48 比 16 的票数通过了州议会（七名民主党人投了反对票），参议院以 30 比 9 的票数（一名民主党人投了反对票），但它还是面临着加州民主党人的一些政治反对。
SB 1047 的批评者包括八名加州众议院议员 Ro Khanna、Zoe Lofgren、Anna Eshoo、Scott Peters、Tony Crdenas、Ami Bera、Nanette Diaz Barragn、Lou Correa 以及 Newsom 的长期盟友前众议院议长 Nancy Pelosi。
上个月，纽瑟姆签署了 17 项与人工智能相关的法案，旨在打击深度造假选举内容、保护演员和艺人的数字肖像，以及监管人工智能创建的色情内容等。
新的法律将要求开发商和社交媒体公司防止不负责任地使用其平台和使用欺骗性内容。
虽然这项立法解决了人工智能面临的直接危险，但 SB 1047 展望了先进模型带来的一些最极端的风险。
周二，乔·拜登总统在联合国大会上发表讲话时呼吁世界领导人制定保护人类生命的人工智能标准。
“这只是我们管理这项新技术所需要做的冰山一角，”拜登总统说。“在未来的几年里，对我们领导力的最大考验可能莫过于我们如何应对人工智能。”