国会成员对加州的人工智能法案提出了反对意见 - 滚动call注：此处"Roll Call"通常作为一个机构名称或专栏标题保留原名，若需翻译可意译为“国会资讯”或类似表述。根据指示只输出翻译结果： 国会成员对加州的人工智能法案提出了反对意见 - 滚动call

当加州州长、民主党人加文·纽森否决了一项旨在防止人工智能用于生物武器开发或其他灾难性风险的措施时，他是应一群多样化的批评者的呼吁行事的，这些批评者中包括国会议员。

反对阵营包括谷歌等大型科技公司、Mozilla等开源实体以及该州国会代表团中的八名民主党人。

纽森于9月29日的否决凸显了在面对保护美国创新或公众利益等相互竞争的利益诉求时，通过人工智能立法的难度。

由众议员佐伊·洛夫格伦领导的加州民主党众议员小组认为，该法案的技术解决方案是基于仍在开发中的标准。

“了解和缓解与人工智能技术相关的安全和风险的方法仍然处于初级阶段，”立法者在8月15日的信中写道。该州法案“偏向于解决极端滥用情况和假设性的存在风险，而忽略了诸如虚假信息、误导性信息和未经同意的深度伪造等可证明的人工智能风险。”他们写道。

这些立法者还表达了担忧，认为一项过于宽泛的人工智能措施会为加州经济带来“不必要的风险”，而公共安全利益却微乎其微。纽森在否决信息中表示，全球前五十家顶尖人工智能公司中有三十-two家位于加利福尼亚州。注意，“thirty-two”可能是指32，在翻译时保持原意不变。

纽森否决后，Marc Andreessen（科技企业家，风险投资公司Andreessen Horowitz的联合创始人）在X平台上感谢州长“站在了加州活力、经济增长和计算自由的一边，而不是安全主义、悲观主义和衰落。”

这项措施在州立法机构的两个议院都轻松通过，得到了非营利组织AI安全中心的支持。该组织此前曾收集了350名从事人工智能系统研究、执行和工程工作的专家签名，警告生成式人工智能模型带来的生存风险。

签名者中包括谷歌顶级人工智能科学家杰弗里·欣顿，他辞职以警告该技术的风险；OpenAI首席执行官萨姆·阿尔特曼，ChatGPT的开发者；以及Anthropic首席执行官达里奥·阿莫德伊，该公司表示其人工智能模型具有安全功能。

加州的这项措施本会使开发大型语言模型（如OpenAI的ChatGPT等）的公司对灾难性伤害负责。成本至少为1亿美元训练的人工智能模型的开发者将被要求公开披露他们如何防止大规模危害以及在何种情况下会关闭其模型。

一个名为边疆模型委员会的政府机构将负责监督此类系统的开发。

纽森致信加州参议院解释他的否决理由，认为该法案未能解决所有风险。

该法案“并未考虑AI系统是否部署在高风险环境中，涉及关键决策或使用敏感数据，”纽森写道。“相反，只要大型系统部署了它，该法案就对即使是最基本的职能也适用严格的标凈。我认为这不是保护公众免受技术实际威胁的最佳方法。”

回应纽森，民主党州参议员斯科特·文尼（该法案的主要发起人）发表声明称，否决令“对于所有相信需要监管那些做出影响公众安全和福利以及地球未来的关键决策的大型企业的人都是一次挫折。”

虽然大型人工智能开发商已经承诺使其模型安全，但威ener表示：“事实是，行业自愿承诺不具备强制性，且很少能为公众带来好处。”“这种否决权使我们面临一个令人不安的现实：旨在开发极其强大技术的公司在面对美国政策制定者的约束性限制时几乎无所畏惧，尤其是在国会继续在任何有意义的方式上监管科技行业方面陷入僵局的情况下。”

封闭“开源”

监管生成式人工智能模型的发展和部署是全球努力的一部分，欧盟在这方面走在前列，通过立法基于风险来监管该技术。在美国，国会和白宫近兩年來一直在试图决定一种方法来解决特定问题，例如与选举相关的虚假信息、偏见和歧视，以及更广泛的系统性问题。

2023年10月，美国总统乔·拜登发布了一项行政命令，启动了多个联邦机构的行动，以提出有关解决人工智能系统造成的偏见和其他危害的法规。

但随着国会缓慢地在各种与科技相关的立法问题上行动迟缓，包括加州在内的州正在努力填补这一空白。

Mozilla，Firefox浏览器的开发方和开源计算的支持者，表示加州这项措施措辞的方式可能会“导致在开源基础上构建项目的玩家被排除在外，无论是大型公司如Meta，还是学术界、非营利组织等类似我们这样的小型玩家”，Mozilla总裁Mark Surman在接受采访时说。“在过去25年的互联网发展中，开源一直是小型玩家进入市场的动力。”

Meta公司（Facebook的母公司）开发了一个名为Llama的大规模语言AI模型，与ChatGPT不同的是，Llama是开源的，这意味着该软件可供公众使用，并由程序员以协作的方式进行开发、添加、修改和分发。

苏尔曼表示，这项立法可能导致这样一种情况：如果有人将一款已经进行了适当安全测试的AI程序修改为其他用途并造成了伤害，该AI开发者可能会被追究责任。

“这样一来，基本上就让任何创造东西的人都对其对整个创新链的影响负责，”Surman 说。“这就好像你是在说，你不应该生产可能被用来制造危险物品的原材料。”

Mozilla的反对并不意味着该组织反对监管人工智能，Surman说。

“我们并不反对对AI进行监管，恰恰相反，”他说。“我认为加州尤其有机会成为AI监管的领导者，并且如何平衡安全与创新这一点上可以起到示范作用。”

给纽森写信的国会议员们还强调了这对开源软件可能产生的影响。“不仅指望开发者完全控制用户如何使用他们的产品是不合理的，而且在不影响最终用户的权利（包括隐私权）的情况下，很难甚至不可能认证某些结果，”他们写道。其他签署人有众议员安娜·G·埃舒、罗·卡汉纳、斯科特·彼得斯、托尼·卡德纳斯、阿米·贝拉、南妮特·巴雷甘和卢·科雷亚。

托尼·桑普，律师事务所DLA Piper的AI政策负责人说，尽管纽森否决了这项措施，但他签署了一系列其他法案成为法律。

该法案的否决“吸引了所有关注，但加州立法机构确实通过了并且州长确实签署了17项与AI相关的立法，这些立法涉及深度伪造、数据透明度和标记等重要领域的规定，”桑普在一封电子邮件中说道。

“国会层面有几项类似于新加州法律的AI法案，”他说，“我们可以预期，为了避免美国各州之间出现不均衡的AI监管局面，越来越多的人将呼吁在联邦层面上制定相关立法。”

马克·安德森和安德烈森霍洛维茨在该报告的早期版本中被误识别。