总之
当选总统特朗普发誓要废除一项强制实施人工智能保障措施的行政命令，并可能利用技术来实现大规模驱逐。加州会朝另一个方向走多远？
加利福尼亚州州长加文·纽瑟姆正准备对当选总统唐纳德·特朗普发动法律战，下个月召开特别立法会议试图“阻止特朗普”这个国家。但纽瑟姆和加州立法者似乎最初不会在这场斗争中纳入人工智能保障措施，尽管人工智能法规是立法机构今年的主要关注点。
特朗普承诺立即废除乔·拜登总统对科技公司和联邦机构强制实施人工智能护栏的行政命令。移民倡导者表示，当选总统政府还可以使用人工智能工具来协助他承诺实施的大规模驱逐出境。
立法者告诉 CalMatters，虽然加州今年早些时候通过了多项人工智能法规，但纽瑟姆特别会议上可能会优先考虑其他问题。
不过，有迹象表明，在不远的将来，人工智能可能会从抽象的关注变成特朗普政府和加州民主党领导人之间的重要政治斗争。这可能是挑战特朗普及其新发现的科技盟友的另一种高调方式，其中一些盟友兴高采烈地宣称人工智能产品将迎来一个放松管制的新时代。
“我认为纽瑟姆和加州立法机关有机会弥补联邦政府留下的空白，为安全和尊重权利的技术和部署创造一个模范环境，”执行官珍妮特·黑文（Janet Haven）说数据与社会研究所所长，该研究所是一家研究人工智能和其他技术的社会影响的非营利组织。“另一方面，没有办法回避这样一个事实：大型科技公司就在那里，并且将成为加州立法机构和纽森在人工智能立法方面想要推进的一个重要因素。”¤
为什么加州立法者和其他人担心人工智能
人工智能安全倡导者告诉 CalMatters，他们并不一定会为一些末日论者想象的世界末日人工智能噩梦而担心。相反，他们关注的是人工智能工具如何越来越多地应用于医疗保健、住房、劳动力、执法、移民、军事以及其他容易遭受歧视、监视和侵犯公民权利的行业和领域——因为有证据表明此类工具可以笨拙、不准确且具有侵入性。– 我们有文件显示这些人工智能系统可能如何做各种事情 – 它们是模式制定系统，它们并不是真正的决策者，但私营部门和公共部门是使用他们作为决策者的替代品，”TechEquity 首席项目官萨曼莎·戈登 (Samantha Gordon) 说道。“这并不明智。”
圣安娜民主党参议员 Tom Umberg 告诉 CalMatters，2024 年对于人工智能法案来说“有点像测试年”。加州立法者宣布露骨的深度伪造内容和某些与选举相关的深度伪造内容为非法，要求科技公司提供免费的人工智能检测工具，并规定科技公司必须公开发布有关其人工智能培训工具的数据。
纽瑟姆州长最终签署了大约 20 项人工智能法案成为法律。但他也颇具争议地否决了一项重大法案由旧金山民主党参议员斯科特·维纳提出，将对人工智能工具提出严格的测试要求，以确保它们避免灾难性后果，例如重大网络安全或基础设施攻击，或制造可能导致大规模死亡的武器。纽瑟姆在否决信息中写道，该法案有限制创新的风险，但他补充说，他希望“找到适当的前进道路，包括立法和监管。”
“纽瑟姆加强与硅谷关系的动机可能比他与唐纳德·特朗普再争论一个问题的需要更强烈。”
政治分析师丹·施努尔
维纳告诉 CalMatters，他正在制定更新的立法，以获得“更广泛的支持”。这样的法案可能会包括科技行业的额外支持，而该州正在大力支持科技行业。依靠税收收入，并且其中有一个萨克拉门托著名的游说活动— — 谷歌刚刚上架十年来最大的季度游说支出。
当被问及是否预计会有更多大型科技公司游说反对加州的监管工作时，帕洛阿尔托民主党议员马克·伯曼 (Marc Berman) 表示：“这将是成为游说者的好时机。”他们会做得很好。”
尽管维纳的人工智能测试法案遭到了否决，其他一些值得注意的人工智能法案也未能通过立法机关，但加州“无疑是美国人工智能监管的中心”。斯坦福大学研究员阿肖克·艾亚尔 (Ashok Ayyar) 说道谁共同撰写了比较分析维纳针对欧盟更全面的人工智能努力的法案。
缺乏联邦人工智能监管和立法
加州在人工智能方面处于领先地位，很大程度上是因为竞争基本上不存在。
国会尚未通过有意义的人工智能立法。当被问及特朗普和即将成为共和党多数派的人时，圣拉蒙民主党议员丽贝卡·鲍尔-卡汉表示，“说实话，没有太多可以放松管制的监管。”
无联邦立法，拜登总统2023年10月发布行政命令旨在围绕人工智能的使用设置护栏。订单建立在五项政策原则之上关于“设计、使用和部署自动化系统以保护美国公众。”拜登指示联邦机构“制定计划，以推动政府使用人工智能的创新，同时防止已知的危害和侵犯权利行为，”Haven 说。拜登发布行政命令后不久，他的政府创建了美国人工智能安全研究所，该研究所隶属于商务部。
拜登的行政命令依赖于科技公司（其中许多总部位于加利福尼亚州）自愿接受政府的建议；它还依赖国土安全部等机构，其中包括移民和海关执法局以及海关和边境保护局，透明和诚实关于他们如何使用人工智能技术而不侵犯人们的公民权利。
与大多数行政命令一样，拜登的人工智能法令的执行不严格，而且相当容易撤销。
——用叉子插进去，就结束了。美国终究将成为世界上最杰出的人工智能超级大国。”
风险投资家马克·安德森
特朗普已承诺在其任期第一天就废除拜登的行政命令；2024 年共和党纲领认为，该行政命令“阻碍了人工智能创新，并将激进的左翼思想强加于这项技术的发展。”不过，特朗普上任后，国土安全部和其他行政部门可能会获得更大的灵活性倡导者表示，门槛已经很低了；一个非营利组织 Mijente 于 2024 年 6 月发布的题为“自动驱逐”的报告认为该部门尚未落实拜登政府已经相对微薄的要求。
特朗普赢得 2024 年总统大选后，科技行业的部分人士对他们对人工智能行业的展望感到欢欣鼓舞，其中包括政府合同即将增加。“把叉子插进去，就结束了”，风险投资公司 Andreessen Horowitz 的亿万富翁普通合伙人马克·安德森 (Marc Andreessen) 在 X 上写道。“美国将成为世界上卓越的人工智能超级大国毕竟。 –
充分释放联邦机构的力量
如果像特朗普所承诺的那样大规模驱逐无证移民，这将需要多种技术，包括人工智能工具。国土安全部已经采用了一种名为“虚拟化环境分析存储库”（RAVen）的人工智能系统，这是一份价值九位数的政府合同。该部门还可以访问广泛的生物识别数据库，并通过监控工具监控拘留中心外的某些无证移民，该工具利用人工智能算法来尝试确定移民是否可能潜逃。
Just 联合创始人兼法律总监 Sejal Zota 表示：“我们从特朗普第一届政府了解到，使用这项技术后，护栏将会减少，特工们会感到更加大胆。”Futures Law，一个专注于移民、刑事司法和监视问题的法律倡导团体。“在这一领域，我们将看到更多人工智能的使用来支持这一大规模驱逐议程。”
据 Zota 所知，加州立法者或法院几乎无法阻止联邦机构对弱势群体（包括无证移民）使用人工智能技术。——这是一个问题吗？绝对，这是一个问题，”参议员乌姆伯格说。– 我们能做些什么呢？对于使用人工智能的联邦机构我们能做什么？我们能做的不多。”
估计显示加州至少有 180 万无证移民。
对加州人工智能法规的另一个潜在威胁是，如果占多数的共和党国会通过自己更宽松的人工智能规则，从而取代州法律。包括议员鲍尔-卡汉和参议员乌姆伯格在内的加州立法者表示，他们认为重要的人工智能立法不会提交特朗普总统签署。
国会陷入僵局是维纳参议员表示他首先在加州立法机构寻求人工智能监管的原因之一：“我非常清楚，如果（问题）在联邦一级得到法定处理，我”“我很乐意关门回家，”他说。“但这并没有发生，而且在特朗普治下肯定不会发生。”
然而，并不是所有人都认为国会在这个问题上会保持停滞状态，特别是目前一个政党在华盛顿占主导地位。“我不会低估这届即将上任的政府的创造力，”Just Futures Law 执行董事帕罗米塔·沙阿 (Paromita Shah) 说。
哈文补充道：“我认为，在共和党三连胜的情况下，我们可能会看到有人试图在联邦层面通过一项非常薄弱的数据隐私法，从而优先于州法律。”接下来就是州立法机构和联邦立法机构之间的打地鼠游戏。”
加州人工智能的下一步发展
纽瑟姆迄今为止已签署了许多人工智能法案，但拒绝了其他法案，他认为这些法案太过分了，有可能抑制他所寻求的行业培育成为政府合作伙伴。纽瑟姆的发言人没有直接回答 CalMatters 针对本文提出的问题，而是发表了一份声明，强调了国家在塑造所谓的“生成式人工智能”未来中的作用，“生成式人工智能”是一种最新的创新形式ChatGPT、DALL-E 和 Midjourney 等工具背后的技术：“加州在防范 GenAI 危害方面处于领先地位，同时充分利用其潜力好处，”发言人亚历克斯·斯塔克说。
当选总统特朗普的团队没有回应 CalMatters 的书面问题。
加州大学伯克利分校和其他校园的政治分析家兼教授丹·施努尔预测，州长将把政治资本留到其他冲突上。“纽瑟姆加强与硅谷关系的动机可能比他与唐纳德·特朗普再争论一个问题的需要更强烈，”施努尔说。
斯坦福大学网络政策中心的客座教授弗洛伦斯·甘塞尔警告纽森不要固守硅谷放松管制的一面。“确实有一场非常强烈的运动想要强调人工智能的风险和安全问题，”G-Sell 说。“如果我是州长，我不会对这一运动和警告麻木不仁。”
立法者正在寻找其他途径来支持加州人对人工智能技术的补救措施。议员鲍尔-卡汉之前告诉 CalMatters她计划重新提出一项更强硬的法案，以打击歧视性人工智能做法，该法案在上届立法机关会议上未能获得通过。门洛帕克民主党参议员乔什·贝克尔 (Josh Becker) 表示，人工智能的另一个首要任务虽然不那么性感，但也许同样重要：“密切监控今年监管框架（我们刚刚通过）的实施情况”，他写道。
加州接下来的人工智能监管措施总是会受到深入分析。现在情况更是如此，随着特朗普重返办公室，这是州立法者正在面临的挑战。
“对我来说有点有趣的一件事是，当人们来找我说，“无论你在加州做什么，都会为这个国家设定标准，”参议员乌姆伯格说。——作为政策制定者，这就是猫薄荷。这就是我竞选公职的原因。”