加利福尼亚州州长加文·纽瑟姆 (Gavin Newsom) 阻止了一项具有里程碑意义的人工智能 (AI) 安全法案，该法案曾遭到主要科技公司的强烈反对。
拟议的立法将对美国人工智能实施一些首批法规。
纽瑟姆先生表示，该法案可能会扼杀创新并促使人工智能开发人员迁出该州。
起草该法案的参议员斯科特·维纳表示，否决权允许公司在没有任何政府监督的情况下继续开发“极其强大的技术”。
该法案要求最先进的人工智能模型进行安全测试。
这将迫使开发人员确保他们的技术包含所谓的“终止开关”。如果人工智能系统构成威胁，终止开关将允许组织隔离并有效关闭它。
这还将强制要求官方对所谓“前沿模型”（或最强大的人工智能系统）的开发进行监督。
纽瑟姆在一份声明中表示，该法案“没有考虑人工智能系统是否部署在高风险环境中、是否涉及关键决策或敏感数据的使用”。“相反，该法案甚至对最基本的功能都采用了严格的标准 - 只要大型系统部署它，”他补充道。
与此同时，纽瑟姆先生宣布了保护公众免受人工智能风险的计划，并要求领先专家帮助制定该技术的保障措施。
过去几周，纽瑟姆先生还签署了 17 项法案，其中包括旨在打击错误信息和所谓深度造假的立法，其中包括使用生成式人工智能创建的图像、视频或音频内容。
加利福尼亚州是许多世界上最大、最先进的人工智能公司的所在地，其中包括 ChatGPT 制造商 OpenAI。
该州作为许多世界上最大的科技公司的中心，意味着任何监管该行业的法案都会对该行业产生重大的国家和全球影响。
维纳先生表示，否决该法案的决定使人工智能公司“不受美国政策制定者的约束性限制，特别是考虑到国会在以任何有意义的方式监管科技行业方面持续瘫痪。”
国会对人工智能实施保障措施的努力已经停滞。
OpenAI、Google 和 Meta 等几家主要科技公司对该法案表示反对，并警告称这将阻碍一项关键技术的发展。