加州州长、民主党人加文·纽瑟姆 (Gavin Newsom) 周日否决了一项为大型人工智能模型制定安全措施的法案，这将是美国首部此类法律。
据美联社报道，州长的否决给围绕人工智能及其快速发展建立护栏的尝试带来了重大挫折，而监管却很少。该立法遭到初创公司、科技巨头和几位民主党议员的坚决反对。
纽瑟姆本月早些时候在由软件巨头 Salesforce 主办的年度会议 Dreamforce 上表示，加州必须作为联邦政府在人工智能监管方面发挥带头作用未能落实安全措施，但该提案“可能会对行业产生寒蝉效应”。
S.B.州长表示，1047 号法案可能会通过制定严格的要求来伤害本土产业。
ZOOM CALL 上乌克兰官员的深造冒充者针对民主党参议员：报告
“虽然——出于本意，SB 1047 并未考虑人工智能系统是否部署在高风险环境中、是否涉及关键决策或敏感数据的使用，”纽瑟姆在一份声明中表示。“相反，只要有大型系统部署，该法案甚至对最基本的功能都采用了严格的标准。我不认为这是保护公众免受该技术构成的真正威胁的最佳方法。”
Newsom 相反宣布，该州将与几位行业专家合作，为强大的人工智能模型制定安全措施。
S.B.1047 号法案将要求公司测试其模型并公开披露其安全协议，以防止模型被操纵用于有害目的，例如摧毁国家电网或帮助制造化学武器，专家称这种情况可能会发生随着该行业继续快速发展，未来这将成为可能。
该立法还将为行业工人提供举报人保护。
该法案的起草人、民主党州参议员斯科特·韦纳 (Scott Weiner)，说否决权是“对每个相信对大型公司进行监督的人来说是一个挫折，这些公司正在做出影响公众安全和福祉以及地球未来的关键决策。”
“这些公司开发先进的人工智能系统承认这些模型给公众带来的风险是真实的，而且正在迅速增加，”他在一份声明中表示。“虽然大型人工智能实验室在监控和减轻这些风险方面做出了令人钦佩的承诺，但事实是，行业的自愿承诺无法执行，而且很少对公众产生良好的效果。”
维纳表示，围绕这些风险的争论该法案让人工智能安全问题成为人们关注的焦点，他将继续推动围绕该技术推进安全措施。
科技亿万富翁埃隆·马斯克支持这项措施。
纽森办公桌上留下的 800 多张法案说明了加州的过度监管问题：专家
该提案是州立法机关今年通过的几项旨在监管人工智能、打击深度造假和保护工人的法案之一。州立法者表示，加州今年必须采取行动，指出在社交媒体公司本来有机会时未能对其进行控制的后果。
该法案的支持者表示，该法案本可以提供一定程度的透明度和问责制围绕大规模人工智能模型，正如开发人员和专家所说，他们仍然没有完全了解人工智能模型的行为方式。
该法案旨在解决需要高水平计算能力和超过耗资1亿美元建造。当前的人工智能模型还没有达到这一标准，但一些专家表示，这种情况可能会在明年发生变化。
“这是因为行业内的大规模投资规模扩大，”前 OpenAI 成员 Daniel Kokotajlo 说道。这位研究人员今年早些时候因该公司忽视人工智能风险而辞职，他告诉美联社。“让任何私营公司不负责任地进行控制，这都是一种疯狂的权力，而且风险也非常大。”
美国在监管不断发展的技术方面落后于欧洲，这些技术引发了人们对失业、错误信息、该措施的支持者表示，侵犯隐私和自动化偏见。加州的法案并不像欧洲的法规那么全面，但支持者表示，这将是朝着正确方向迈出的一步。
去年，几家领先的人工智能公司自愿同意遵守白人制定的保障措施House，其中包括测试和分享有关其模型的信息。据其支持者称，加州法案将要求人工智能开发人员遵循与这些保障措施类似的要求。
但该措施的批评者认为，这将损害科技并扼杀金州的创新。包括美国加州民主党众议员南希·佩洛西在内的批评者表示，该提案将阻止人工智能开发人员投资大型模型或共享开源软件。
另外两项人工智能提案也包括面临科技行业的反对，该法案未能在上个月的立法截止日期之前获得通过。这些法案将要求人工智能开发人员对人工智能生成的内容进行标记，并禁止用于做出就业决策的人工智能工具产生歧视。
加州立法者仍在考虑针对招聘实践中人工智能歧视的新规则。
州长此前曾表示，他希望保护该州作为人工智能领域全球领导者的地位，并指出全球 50 强人工智能公司中有 32 家位于金州。
点击此处获取福克斯新闻新闻应用
纽瑟姆表示，加州是人工智能的早期采用者，因为该州可能在不久的将来部署生成式人工智能工具，以解决高速公路拥堵问题，提供税收指导并简化无家可归者计划。
本月早些时候，纽瑟姆签署了该国一些最严格的法律，以打击选举深度造假，并采取措施保护好莱坞工作人员免受未经授权的人工智能使用。
美联社对此报告作出了贡献。
p>