加利福尼亚州州长加文·纽瑟姆 (Gavin Newsom) 周日否决了一项备受争议的人工智能安全法案，此前科技行业提出反对，称该法案可能会将人工智能公司赶出该州并阻碍创新。
纽瑟姆表示他请求生成人工智能方面的顶尖专家帮助加州开发可行的护栏，重点是开发基于经验的、基于科学的轨迹分析。他还命令国家机构扩大对与人工智能使用相关的潜在灾难性事件的风险的评估。
生成式人工智能 - 可以根据开放式提示创建文本、照片和视频 - 引起了人们的兴奋。以及担心它可能会使一些工作过时，颠覆选举，并可能压倒人类并产生灾难性影响。
该法案的作者、民主党州参议员斯科特·维纳(Scott Wiener)表示，在进步之前，有必要立法来保护公众。人工智能要么变得笨拙，要么变得无法控制。人工智能行业在加州正在快速发展，一些领导人质疑如果该法案成为法律，这些公司在该州的未来。
维纳周日表示，否决权使加州变得不那么安全，意味着公司旨在创造一个极其危险的环境。强大的技术不受任何约束性限制。他补充说，行业的自愿承诺无法强制执行，而且很少对公众产生良好效果。
纽瑟姆说，我们不能等到重大灾难发生才采取行动保护公众，但他补充说，不同意我们必须接受一个没有对人工智能系统和能力进行实证轨迹分析的解决方案。
纽瑟姆表示，他将在下一次会议期间与立法机构就人工智能立法进行合作。与此同时，美国国会设定保障措施的立法已陷入停滞，而拜登政府正在推进人工智能监管监管提案。
纽瑟姆表示，仅加州的做法很可能是有道理的——尤其是在国会没有采取联邦行动的情况下。/p>
科技行业联盟进步商会赞扬了纽瑟姆的否决，称加州科技经济一直在竞争和开放的基础上蓬勃发展。
除其他外，该措施将强制对许多最先进的人工智能模型的开发成本超过 1 亿美元，或者需要一定的计算能力。在该州运营的人工智能软件开发人员还需要概述关闭人工智能模型的方法，这实际上是一个终止开关。
该法案将建立一个国家实体来监督所谓的开发超越现有最先进模型能力的前沿模型。
该法案遭到了广泛群体的强烈反对。Alphabets 谷歌、微软支持的 OpenAI 和 Meta Platforms 都在开发生成式人工智能模型，它们都表达了对该提案的担忧。
美国国会的一些民主党人，包括众议员南希·佩洛西 (Nancy Pelosi) 也表示反对。支持者包括特斯拉首席执行官埃隆·马斯克，他还经营着一家名为 xAI 的人工智能公司。亚马逊支持的 Anthropic 表示，该法案的好处可能超过成本，但它补充说，仍有一些方面似乎令人担忧或模棱两可。
纽瑟姆单独签署了立法，要求该州评估 Generative 构成的潜在威胁加州关键基础设施的人工智能。纽瑟姆说，该州正在分析能源基础设施风险，并之前召集了电力部门提供商，并将在明年与水基础设施提供商以及随后的通信部门进行相同的风险评估。