2024-09-06 12:34:00 英文原文
正在加载您的音频文章
总结
加州立法机关最近几天通过了十多项监管人工智能的法案，尽管有些雄心壮志未能实现。
Lea esta historia en Espaol
加利福尼亚州立法者刚刚向州长加文·纽瑟姆 (Gavin Newsom) 发送了十几项法案，监管人工智能、测试对关键基础设施的威胁、限制对儿童使用算法、限制深度造假的使用等等。
但人工智能行业及其周边人士表示，拟议的法律未能阻止该技术的一些最令人担忧的危害，例如企业和政府实体的歧视。与此同时，观察人士表示，通过的法案是否会被否决或签署成为法律，可能在很大程度上取决于行业压力，特别是对国家出于在热门领域的竞争力而进行自我监管的指控。
辩论加州是人工智能发展的中心，许多立法者今年承诺监管该技术，并将该州置于保护人工智能的最前沿。毫无疑问，参议院 1047 号法案今年比任何其他人工智能监管法案都受到更多关注，在参众两院大幅通过后，行业和消费者权益倡导者密切关注关注纽瑟姆是否将其签署为法律。
该法案由旧金山民主党参议员斯科特·维纳 (Scott Wiener) 提出，解决了人工智能带来的巨大潜在威胁，要求先进人工智能模型的开发人员测试它们的能力允许对数字和物理基础设施进行攻击，并帮助非专家制造化学、生物、放射性和核武器。它还保护想要报告来自科技公司内部此类威胁的举报人。
但是，如果人工智能带来的最令人担忧的危害是司空见惯的而不是灾难性的呢？这是分布式人工智能研究中心（Distributed AI Research）研究主管亚历克斯·汉纳（Alex Hanna）等人的观点，该研究中心是一个由前谷歌道德人工智能研究人员创建的非盈利组织，总部设在加利福尼亚州。汉纳说，《1047》表明加州立法者过多关注存在风险，而对防止特定形式的歧视关注不够。她更希望立法者考虑禁止在刑事调查中使用面部识别，因为人工智能的应用已经被证明会导致种族歧视。她还希望看到政府针对承包商采用的潜在歧视性技术制定标准。
我认为 1047 得到了最多的关注，天知道什么原因，但他们肯定没有领先世界，也没有试图赶上欧洲的水平。她在谈到加州立法者时表示，这项立法已被废除。
一项确实解决人工智能歧视问题的法案今年被废除并被搁置。议会法案 2930 将要求人工智能开发人员进行影响评估并将其提交给民权部，并将歧视性人工智能的使用视为非法，每次违规将被处以 25,000 美元的罚款。
最初的法案旨在在住房、金融、保险和医疗保健等关键经济领域使用歧视性人工智能是非法的。但在参议院拨款委员会将该法案限制为评估就业中的人工智能后，圣拉蒙民主党人丽贝卡·鲍尔-卡汉(Rebecca Bauer-Kahan)将该法案撤回。加州民权部和加州隐私保护局正在起草的规则预计会遏制这种歧视。鲍尔-卡汉告诉 CalMatters，她计划明年提出更强有力的法案，并补充道，“我们有强有力的反歧视保护措施，但在这些系统下，我们需要更多信息。
与维纳法案一样，鲍尔-卡汉也受到了影响。谷歌、Meta、微软和 OpenAI 等科技行业反对者的游说，今年春天，OpenAI 在萨克拉门托聘请了第一位说客。与维纳法案不同的是，它还招致了来自各个行业的近 100 家公司的反对，其中包括加州 Blue Shield、约会应用公司 Bumble、生物技术公司 Genentech 和制药公司辉瑞 (Pfizer)。
TechEquity 首席项目官萨曼莎·戈登 (Samantha Gordon) 表示，人工智能歧视法案是加州人工智能监管仍存在巨大漏洞的原因之一。TechEquity 游说该法案支持该法案。戈登与隐私、劳工和人权组织共同组织了一个人工智能工作组，他认为国家仍然需要立法来解决歧视、披露、透明度问题，以及哪些用例应该被禁止，因为它们已经证明有能力造成伤害尽管如此，戈登表示，维纳斯法案的通过标志着重要进展，参议院第 892 号法案的通过也是如此，该法案为政府机构签署人工智能服务合同制定了标准。作家、丘拉维斯塔民主党参议员 Steve Padilla 今年早些时候告诉 CalMatters，这样做可以利用政府的购买力来鼓励更安全、更道德的人工智能服务。
虽然一些专家批评维纳斯法案未能做到这一点。确实如此，科技行业已经追随它所做的事情。谷歌和 Meta 等大型科技公司表示，这些措施的测试要求和相关执行机制将削弱快速发展的科技公司，并对代码共享产生寒蝉效应，从而抑制创新。
鉴于该行业在加州的影响力Pause.ai 首席执行官 Joep Meindertsma 表示，这种批评是众所周知的“房间里的大象”。Pause.ai 是人工智能监管的支持者，支持维纳法案，甚至在 Meta 和 OpenAI 等加州公司的办公室组织抗议活动。因此，Meindertsma 很高兴看到今年立法机关通过了如此多的监管法案。但他担心，监管人工智能的愿望与赢得最佳人工智能竞赛的愿望之间的紧张关系将削弱这些努力，而不仅仅是公司，而是整个国家。他说，加州和其他地方的监管机构希望双管齐下。
国家之间的市场动态，这些国家试图在竞争中保持领先地位，并试图避免因担心经济放缓而对其公司进行过多监管他说，当其他人继续竞速时，这种动态是我认为在整个情况中最具毒性的问题。
详细了解这个故事中提到的立法者。
比尔·多德
第 3 区州参议院民主党人（纳帕）
斯科特·维纳
第 11 区州参议院民主党人（旧金山）
乔什·贝克尔
第 13 区州参议院民主党人（门洛帕克）
史蒂夫·帕迪拉
第 18 区州参议院民主党人（丘拉维斯塔）
Buffy Wicks
第 14 区州议会民主党人（奥克兰）
Rebecca Bauer-Kahan
第 14 区州议会民主党人16（圣拉蒙）
已经有迹象表明，行业压力可能会占上风，至少反对维纳法案。
加州国会代表团的几位民主党成员呼吁纽瑟姆否决该法案。代表旧金山的前众议院议长南希·佩洛西也站出来反对。
最近几周，纽瑟姆似乎倾向于人工智能，这引发了人们对他监管人工智能的兴趣有多大的质疑。这位州长对利用人工智能解决加州问题表现出了极大的兴趣，上个月与人工智能巨头英伟达签署了一项协议，二月份启动了人工智能税务建议试点计划，并于周四推出了旨在连接无家可归者的人工智能解决方案与服务。当五月份直接被问及维纳法案时，纽瑟姆含糊其辞地表示，立法者必须在回应监管呼吁和过度监管之间取得平衡。
一些比 Wieners 1047 更具针对性且宣传程度明显较低的法案确实在立法机关取得了成功。
SB 942 将要求公司免费向公众提供人工智能检测工具，以便他们可以告诉公众人工智能与现实的区别。它是由门洛帕克的民主党参议员 Josh Becker 提出的。
纳帕的民主党参议员 Bill Dodd 提出的 SB 896 将迫使政府机构评估使用生成式人工智能的风险，并披露何时使用该技术。
本次立法会议通过的其他人工智能法案旨在保护儿童，其中一项法案将利用生成人工智能制作儿童色情内容定为犯罪行为，另一项法案则要求社交媒体应用程序的制造商关闭对儿童色情内容的算法管理。向 18 岁以下的用户提供内容，除非获得父母或监护人的许可。默认情况下，孩子们会看到他们关注的帐户中按时间顺序排列的最新帖子。该法案还限制在上课时间以及午夜至早上 6 点之间来自社交媒体应用程序的通知。
上周通过的三项法案旨在保护选民免受被称为深度伪造的欺骗性音频、图像和视频的侵害。一项法案针对使用人工智能创建或发布欺骗性内容的个人，并允许法官下令发布禁令，要求他们删除这些内容或支付赔偿金。另一项法案要求 Facebook 等大型在线平台在用户举报后 72 小时内删除或标记深度造假，而另一项法案则要求政治运动披露人工智能在广告中的使用。
Newsoms 办公桌上还包括法案这将要求创意者在使用死者肖像之前获得许可，并在某些情况下禁止使用数字复制品。这两项法案都得到了演员工会 SAG-AFTRA 的支持。
在立法过程中，未能通过的法案，例如鲍尔-卡汉的反人工智能歧视法案，通常是与进步同样重要。
恰当的例子：AB 3211，它要求人工智能制造商对人工智能生成的内容进行标记。尽管得到了 Adobe、微软和 OpenAI 等公司的支持，但它还是失败了。在周二在社交媒体上分享的一份声明中，法案作者、奥克兰民主党议员巴菲·威克斯表示，不幸的是，加州参议院没有接受她的法案，该法案是全国其他地区的模范政策。她说她计划明年重新引入该法案。
标签法案和鲍尔-卡汉斯法案是欧盟官员标记为关键的三项措施中的两项，这些措施建议加州立法者在幕后采用人工智能监管。欧盟的《人工智能法案》花了五年时间制定并于今年春天生效。欧盟旧金山办事处主任杰拉德·德格拉夫 (Gerard de Graaf) 访问加州立法机关，会见 AB 3211、AB 2930 和 SB 1047 的作者，以实现萨克拉门托和布鲁塞尔之间监管协调的目标。
在今年春天接受 CalMatters 采访时，德格拉夫表示，这三项法律将实现《人工智能法案》的大部分目标。本周，德格拉夫对加州同行给予了高度赞扬，他表示，他认为州立法者在通过如此多不同的人工智能监管法案方面做了一些认真的工作，他们在竞争中处于领先地位，并且他们成功地成为了人工智能领域的世界领导者。今年的人工智能监管。
这需要彻底的理解，而世界各地的许多立法机构都没有这种认识，从这个意义上说，加州是一个领导者，他说。加利福尼亚州在一年内取得的成就并不是一个微不足道的壮举，而且这种情况可能会持续下去。
尽管就两项未能通过参议院 1047 号法案面临否决可能性的法案向立法者提供了建议德格拉夫表示，他认为一项法案的通过与欧盟人工智能政策趋同，该法案要求人工智能开发人员披露用于训练人工智能模型的数据集的信息。
事实上，该法案旨在保护公民免受歧视加州大学欧文分校法学院教授 Veena Dubal 的研究涉及技术和边缘化工人，他表示，人工智能没有通过确实是科技资本在加州政治中力量的令人失望的反映。
这真的感觉就像我们的她说，立法机关已被科技公司占据，从其结构来看，这些公司在自己的倡导或决策中并不将公众的利益放在首位，因为它们是利润机器。
她认为过去的立法会议表明，加州不会成为监管生成人工智能的领导者，因为科技公司的力量太强大，但她确实在通过的保护儿童免受人工智能侵害的法案中看到了承诺的迹象。她对 SAG-AFTRA 支持的数字复制法案的通过感到鼓舞，这反映了 2022 年工人罢工的情况，而且立法者明确表示，在未经父母同意的情况下使用生成式人工智能制作儿童色情内容和为儿童策划内容应该是非法的。似乎更具挑战性的是通过要求任何程度问责的法律。人们是否应该受到公民权利侵犯的保护，这是不应该争论的，她希望立法者将人工智能的其他用途标记为不可接受，例如使用人工智能来评估工作场所的人。
事实上，这些法律（保护儿童））的通过并不令人惊讶，我希望他们的通过能够为停止或禁止在我们生活的其他领域使用人工智能或自动决策铺平道路，而人工智能显然已经在这些领域造成了破坏，她说。