支持者
该法案本来是美国第一个对新技术设置严格护栏的法案，但州长加文·纽瑟姆表示该法案存在缺陷。
人工智能监管报告
政府。加文·纽瑟姆 (Gavin Newsom) 周日否决了加州人工智能安全法案，阻止了该国旨在遏制新技术发展的最雄心勃勃的提案。
第一个此类法案，S.B.1047，需要对大型人工智能进行安全测试。系统或模型在向公众发布之前。它还赋予州总检察长就其技术造成的严重损害（例如死亡或财产损失）起诉公司的权利。它还强制要求有一个终止开关来关闭人工智能。系统以防潜在的生物战、大规模伤亡或财产损失。
先生。纽瑟姆表示，该法案存在缺陷，因为它过于关注监管最大的人工智能公司。系统，称为前沿模型，没有考虑该技术的潜在风险和危害。他说立法者应该在下届会议上重新编写该法案。
纽瑟姆先生在一份声明中表示，我不认为这是保护公众免受该技术构成的真正威胁的最佳方法。相反，该法案甚至对最基本的功能都采用了严格的标准，只要大型系统部署即可。
废除该法案的决定预计将引发一些推动该立法的技术专家和学者的激烈批评。民主党州长纽森面临着否决该法案的强大压力，该法案卷入了一场关于如何监管人工智能的激烈全国辩论。最近几周，大批游说者涌入他的办公室，其中一些人宣传该技术的巨大潜力。其他人警告说，它有可能对人类造成不可挽回的伤害。
近年来，随着聊天机器人以及逼真图像和视频生成器的发布，这项技术已迅速进入公众意识，加州有望成为监管这项技术的旗手。在缺乏联邦立法的情况下，加州立法机关采取了积极的措施来控制该技术，并提出了提案，两院几乎一致通过了该提案。虽然全球立法者和监管机构已对该技术敲响了警钟，但很少有人采取行动。国会已举行听证会，但立法尚未取得有意义的进展。欧盟通过了 A.I.法案，限制使用面部识别软件等风险较高的技术。
在缺乏联邦立法的情况下，科罗拉多州、马里兰州、伊利诺伊州和其他州已颁布法律，要求在政治广告中披露人工智能生成的深度伪造视频，禁止使用面部识别和其他人工智能技术。雇用和保护消费者免受人工智能歧视的工具模型。
但是加州的人工智能。该法案引起了最多的关注，因为它专注于监管最强大、最雄心勃勃的人工智能。模型的开发成本可能超过 1 亿美元。
各州和地方政府正在试图介入并解决人工智能的明显危害。乔治华盛顿大学决策科学助理教授帕特里克·霍尔表示，令人遗憾的是联邦政府在监管方面遇到了困难。美国公众已成为世界上最大、最富有的公司的庞大实验人群。
加利福尼亚州在隐私、排放和儿童安全法规方面处于全国领先地位，这些法规经常影响公司在全国范围内开展业务的方式，因为他们更愿意避免遵守各州法律的挑战。
旧金山州参议员斯科特·维纳 (Scott Wiener) 表示，他已经介绍了加州的人工智能技术。在与当地技术专家和学者交谈后，他们警告了该技术的潜在危险以及国会缺乏行动。上周，包括约瑟夫·高登-莱维特、马克·鲁法洛、简·方达和珊达·莱姆斯在内的 120 名好莱坞演员和名人签署了一封致纽瑟姆先生的信，要求他签署该法案。
先生。纽瑟姆表示，该法案需要人工智能的更多投入。学术界专家和商界领袖对前沿模型的潜力及其潜在风险进行更深入的科学支持分析。
加州州长表示，该法案本意良好，但遗漏了衡量风险和其他消费者伤害的关键方法。他说，该法案没有考虑人工智能是否存在。系统部署在高风险环境中，涉及关键决策或敏感数据的使用。
先生。纽瑟姆表示，他已请几位技术和法律学者帮助制定生成人工智能的监管护栏，其中包括斯坦福大学计算机科学教授李飞飞；Mariano-Florentino Cullar，美国国家科学院计算机研究社会和伦理影响委员会成员；以及加州大学伯克利分校计算、数据科学与社会学院院长 Jennifer Tour Chayes。
被纽瑟姆称为人工智能教母的斯坦福大学教授李上个月在一篇评论文章中写道，该法案将损害我们正在萌芽的人工智能生态系统，并给最大的人工智能带来威胁。公司通过惩罚必须满足测试标准的小型开发人员和学术研究人员来获得优势。
OpenAI、谷歌、Meta 和微软反对这项立法，称这可能会扼杀创新，并使美国在全球人工智能主导地位的竞争中受挫。包括安德森·霍洛维茨 (Andreessen Horowitz) 在内的风险资本投资者表示，这项措施将损害人工智能。没有测试其系统所需资源的初创公司。
几位加州国会代表写信给纽瑟姆先生，警告称该法案过于假设，没有必要为一项新兴技术设定安全标准。前众议院议长、众议员南希·佩洛西 (Nancy Pelosi) 也要求她的民主党同僚否决该法案。
虽然我们希望加州在人工智能领域处于领先地位以保护消费者、数据、知识产权等的方式，S.B.佩洛西女士上个月在一封公开信中写道，1047 在这一追求中弊大于利。
其他技术专家和一些商业领袖，包括埃隆·马斯克，采取了相反的立场，称人工智能的潜在危害。太大而无法推迟监管。他们警告说，A.I.可能会被用来通过广泛的虚假信息扰乱选举、促进生物战并造成其他灾难性情况。
先生。马斯克上个月在他的社交媒体网站 X 上发帖称，这是一个艰难的决定，但考虑到所有因素，他支持该法案，因为该技术对公众存在潜在风险。去年，马斯克先生创立了 A.I.xAI 公司，他是使用人工智能的电动汽车制造商特斯拉的首席执行官。用于自动驾驶。
本月，50 名学者致信纽瑟姆先生，称该法案合理，对快速部署不安全模型具有重要威慑作用。
关于是否发布未来强大的人工智能的决定包括被称为人工智能教父的多伦多大学教授杰弗里·辛顿 (Geoffrey Hinton) 在内的学者们写道，不应轻视模型，也不应纯粹由那些对其行为不承担任何责任的公司制作模型。
Amba Kak，AI Now 智囊团主席，前 A.I. 顾问。向联邦贸易委员会表示，当关于监管人工智能的辩论时。沦为硅谷的内讧，我们忽视了公众更广泛的利益。
本文的早期版本错误地识别了 Patrick Hall 的头衔。他是乔治华盛顿大学决策科学助理教授，而不是乔治城大学信息系统助理教授。
我们如何处理更正
Cecilia Kang 居住在华盛顿特区，负责技术和监管政策方面的报道。她撰写有关技术的文章已有二十多年了。更多关于康塞西莉亚
广告