在一个人工智能迅速塑造未来的世界上，加利福尼亚发现自己处于一个关键的十字路口。美国该州州长加文·纽森，最近被屏蔽一项旨在收紧生成式人工智能开发监管的关键人工智能安全法案。
前沿人工智能模型安全创新法案（SB 1047）被许多人视为保障该技术发展的必要措施。生成式人工智能涵盖了能够根据文本、视频、图像和音乐等用户问题或“提示”来创建新内容的系统。
但纽森说该法案有可能“限制推动公共利益进步的创新”。虽然同意公众需要免受技术带来的威胁，但他认为SB 1047并不是“最佳途径”。
发生在加利福尼亚州的事情如此重要，因为这里是硅谷的所在地。在……世界顶级50家人工智能公司目前有32家公司在该州设立总部。因此，加州立法机构在确保基于人工智能的技术安全方面扮演着独特的重要角色。
但纽森的决定也反映出一个更深层次的问题：创新和安全能否真正共存，还是我们必须牺牲一方来促进另一方的发展？
加州的科技产业为州经济贡献了数十亿美元，并创造了数千个工作岗位。纽森与知名科技投资者等人士一同参加了活动。马克·安德森认为过多的规定可能会减缓AI的发展。Andreessen赞扬了否决权表示它支持“经济增长和自由”，而不是过度谨慎。
然而，迅速发展的AI技术可能会带来严重的风险，从传播 misinformation 应译为 传播虚假信息 或 传播误导信息，这里使用“散布谣言”或“传播假消息”更为贴切。但根据要求只输出翻译结果： 传播虚假信息到启用为止 sophisticated的网络攻击可能危害社会。 一个重要的挑战是理解当今人工智能系统究竟有多么强大。
生成式AI模型，就像OpenAI的GPT-4一样，能够进行复杂的推理，并能生成类似人类的文本。人工智能还可以创建极其逼真的虚假图片和视频，被称为深度伪造（deepfakes），这些内容有可能破坏媒体的信任并干扰选举。例如，公众人物的深度伪造视频可能被用来传播错误信息，导致混乱和不信任。
人工智能生成的虚假信息也可能被用来操纵金融市场或煽动社会动荡。令人不安的是，没有人确切地知道接下来会发生什么。这些技术为创新打开了大门——但是如果没有适当的监管，人工智能工具可能会以难以预测和控制的方式被滥用。
传统的软件测试和监管方法在面对能够创建人工图像或视频的生成式AI工具时显得力不从心。这些系统以连它们的创造者都无法完全预见的方式进化，特别是在接受了来自数百万用户互动所产生的一大堆数据训练之后，如ChatGPT.
SB 1047试图通过要求公司在其AI软件中实施“关停开关”，在出现问题时可以禁用该技术来解决这一问题。该法律还要求他们为任何预算超过1亿美元（约合7.72亿英镑）的AI项目制定详细的安全计划。
批评者认为该法案范围太广，意味着它甚至可能影响到风险较低的项目。但其主要目的是在这样一个行业建立基本保护措施，这个行业的发展速度或许超出了立法者的跟进能力。
加州作为全球领导者
加州的决定可能会影响全世界。作为全球科技领导者，该州在监管人工智能方面的做法可能会为其他国家设定标准，正如它在过去所做的那样。例如，加州在制定严格的标准方面发挥了领导作用。车辆排放标准通过加州消费者隐私法（CCPA），及其早期的自动驾驶汽车的监管已经影响了其他国家和地区采取类似的措施。
但通过否决SB 1047，加州可能发出了一个信号，表明它还不准备在人工智能监管方面引领方向。这可能会给其他国家留出空间——这些国家可能不像美国那样在乎伦理和公共安全。
特斯拉首席执行官埃隆·马斯克谨慎地支持了该法案，承认虽然这是一个“艰难的决定”，但可能是一个好主意。他的立场表明，即使是科技内部人士也认识到AI带来的风险。这可能是行业准备与政策制定者合作，探讨如何最好地监管这种新技术的一个迹象。
认为监管会自动扼杀创新的看法是误导性的。有效的法律可以创建一个不仅保护人们，而且还允许创新的框架。AI可持续发展例如，法规可以帮助确保人工智能系统的开发是负责任的，并考虑到隐私、公平性和透明度。这可以建立公众信任，这对于人工智能技术的广泛采用至关重要。
人工智能的未来不必在创新和安全之间做出选择。通过实施合理的保障措施，我们可以释放人工智能的全部潜力，同时确保社会的安全。公众参与在这个过程中至关重要。人们需要了解人工智能的能力和风险，以便参与到塑造反映社会价值观的政策中去。
赌注很高而且人工智能正在迅速发展。是时候采取积极的行动，确保我们在不损害安全的情况下充分利用人工智能的好处。但加州否决了人工智能法案也引发了更广泛的问题，即科技公司在日益增长的力量和影响力下所扮演的角色，鉴于他们提出异议那随后导致了它的否决。