加州在人工智能安全方面的重大转变的消亡凸显了反对被认为太过分的监管的强大力量。
加州本来有机会为人工智能制定国家安全标准，但州长加文·纽瑟姆和硅谷阻碍了。
作为立法民主党人，人工智能今年跃居萨克拉门托斯议程的首要位置。得出的结论是，国会过于分裂和功能失调，无法跟上快速发展的技术。主导这场辩论的是州参议员斯科特·维纳 (Scott Wiener) 提出的一项法案，他是一位雄心勃勃的旧金山民主党人，着眼于众议员南希·佩洛西斯 (Nancy Pelosis) 席位，该法案要求对大型人工智能模型进行审查，以应对发动生物武器攻击等风险。
但这种行动欲望与一些州最强大的政治参与者的强烈反对发生了冲突，其中包括硅谷重量级人物和众议院民主党人，他们的选区设有人工智能总部。
他们找到了一个愿意合作的伙伴，纽瑟姆，一个对技术友好的前旧金山市长，他周日的否决坚定了他挫败民主党主导的立法机构并拒绝监管加州核心产业之一的法案的意愿。
他试图推动人工智能在加州向前发展，我认为吉姆·旺德曼 (Jim Wunderman) 表示，该法案将对其施加限制。他领导着一个名为湾区委员会的商业联盟，其中包括大型科技公司。作为州长，他曾多次努力支持科技发展。他明白这是该州的主要业务。
州长还敏锐地意识到加州对富裕居民的依赖，科技行业的繁荣与萧条周期加剧了各州最近因巨额预算意外而发生的波动加文不太可能在当地如此有组织的反对派的支持下签署一项法案，更不用说来自该州个人所得税收入大幅波动的行业了，Kim-Mai Cutler一位活跃于旧金山政坛的投资者在短信中说道。卡特勒指出，州长实际上相当规避风险。
纽瑟姆发言人在一份书面声明中指出，民主党州长本月签署了多项人工智能法案，包括禁止政治深度伪造的措施以及让表演者更好地控制自己的数字肖像并表示州长拒绝接受有关科技行业的朋友或敌人的框架。
发言人鲍勃·萨拉迪 (Bob Salladay) 表示，这不是一个二元选择。我们可以同时保护公众并促进创新。加州非常擅长做到这一点。
维纳是一位热衷于解决棘手问题的州参议员，他花了几个月的时间来反驳有关他反对人工智能或他的法案将扼杀创新的说法。尽管他对纽瑟姆的拒绝表示遗憾，但他表示，他很自豪能够阐明这个问题。
如果 SB 1047 失败，最终会激发富有成效的对话以及促进创新和保护公众的实际、切实的政策他在接受采访时表示，从长远来看，这就是一场胜利。
加州的辩论还远未结束。纽瑟姆承诺制定后续立法，维纳则建议明年继续解决这个问题。但否决权提出了一个更大的问题，即一年前华盛顿最关心的一个想法的国家未来。
杰森·格林-洛表示，[该法案]本来会促使国会采取行动人工智能政策中心的执行董事，该中心是一个与有效利他主义运动有联系的非营利组织。现在，国会和下一任总统更需要在人工智能安全问题上表明立场。但加州的这项法案本可以为我们赢得一些时间，并为我们指明前进的方向。
人工智能的快速出现将科技世界分成了两派，一派是希望尽快发展的人，另一派则是担心这项技术可能会影响未来发展的怀疑论者。造成严重破坏。维纳得到了该领域先驱研究人员的支持，与人工智能公司 Anthropic 一起进行了修订，并找到了埃隆·马斯克 (Elon Musk) 一个不太可能的盟友，后者支持该法案，尽管称维纳是一个彻头彻尾的卑鄙小人。好莱坞名人敦促纽瑟姆签署该法案。
但随着该法案在萨克拉门托的实施，越来越多的硅谷最有影响力的人物对该法案进行了反对。其中包括 Meta 和 OpenAI 等领先的人工智能公司，以及马克·安德森 (Marc Andreessen)、加里·谭 (Garry Tan) 等富有的风险投资家，以及曾支持纽瑟姆和维纳的旧金山政坛常客罗恩·康威 (Ron Conway)。敌人与蓝筹游说公司签约，其中一些负责人与纽瑟姆有联系。
这确实是一场科技内部斗争，到最后很明显，事情并非如此。内森·卡尔文 (Nathan Calvin) 是人工智能安全中心的高级政策顾问，该法案是该法案的发起者。但他说，最终支持者反对的是一个不习惯实质性监管的行业，并且有相当多的精力来维持这种监管。
科技工作者的批评在社交媒体上爆发。Y Combinator 是一家初创企业孵化器，前身为 OpenAI 首席执行官 Sam Altman，在 7 月份举办的一场活动中，初创企业创始人对维纳进行了质问。Google Brain 联合创始人吴恩达出人意料地出面严厉批评该法案。
但这些担忧并不能阻止该法案在立法机关稳步推进。每一次投票，批评者都越来越把希望寄托在纽瑟姆身上。否决权是纽瑟姆今年最不令人惊讶的举动之一。
州长与科技行业保持着深厚的联系，他认为科技行业是加州的经济支柱之一，也是税收的重要来源。他经常强调加州需要保持其在人工智能方面的竞争优势，并警告不要过度监管。他在拒绝限制技术限制的法案（例如限制自动驾驶卡车）时也提出了类似的论点。
纽瑟姆本月早些时候在接受采访时表示，我们在这个领域占据主导地位，我不想失去这种竞争力。与 Salesforce 首席执行官马克·贝尼奥夫（Marc Benioff）是一位亲密的私人朋友。几年内签署错误法案的影响可能会对我们的竞争实力产生深远的影响。
作为橄榄枝，纽瑟姆在投否决票的同时还承诺召集一个工作组来制定法案常识护栏，但没有具体说明这些护栏会是什么样子或何时生效。他说，该工作组将由领先的人工智能学者领导，其中包括人工智能教母、斯坦福大学教授李飞飞，李飞飞今年早些时候在台上采访了纽瑟姆，并公开反对该法案。
这似乎只会进一步激怒法案支持者，他们指出李有自己的人工智能初创公司。
让人们负责试图实现某种常识性的安全护栏，这很讽刺支持维纳斯法案的加州经济安全局局长泰里·奥尔说，他们一直非常直言不讳地反对这一法案。
奥尔说，这让我怀疑这是否会产生任何有意义的结果。
李在一份声明中表示，这对于将新兴行业的工作人员纳入其中至关重要。
在不参与的情况下提出常识性的保障措施将是具有讽刺意味的。她说，人工智能领域的专家包括来自学术界和初创生态系统的领导者。因此，如果人工智能领域的初创企业和学术界领导人在技术政策讨论中拥有一席之地是一种利益冲突，那么对于继续拥有最大席位的大型科技领导人来说也是如此
对维纳和他的盟友的另一个打击来自国会山。湾区民主党人集会反对该法案，首先是众议院主要科学委员会的民主党首席众议员佐伊·洛夫格伦(Zoe Lofgren)，最后是与纽瑟姆关系密切的佩洛西(Pelosi)。人们普遍认为，她的干预是为了削弱维纳的实力，因为维纳正在与前议长的女儿进行一场继承权之争。
洛夫格伦写信给纽瑟姆和州议会议长罗伯特·里瓦斯，他们的选区与她的选区重叠，并在关键投票之前亲自联系其他立法者，敦促他们否决该法案。纽瑟姆否决该法案后不到一个小时，佩洛西在 X 帖子中赞扬了他，指出人工智能源自加州。
在否决后，科技名人很快就对纽瑟姆大加赞扬。民主党巨额捐助者里德·霍夫曼赞扬了州长的领导力。康威承诺与纽瑟姆合作，制定一个负责任且安全的人工智能监管框架。谭已成为旧金山自相残杀的民主党斗争中的斗士和关键人物，他表示他对州长表示感谢。
曾为维纳工作的旧金山政治顾问凯蒂·斯图尔特 (Catie Stewart) 表示，大多数人民选官员努力克服该法案引发的强烈反对，特别是那些像纽瑟姆这样希望保持通往白宫之路畅通无阻的人。
当你与罗恩·康威或其他巨擘等人对抗时- 亿万富翁，这很难，斯图尔特说。如果您考虑在未来四到八年内竞选总统，并且惹怒了很多科技人士，特别是很多科技捐助者，那是一件可怕的事情。
莫哈尔·查特吉 (Mohar Chatterjee) 对本报告做出了贡献。