英语轻松读发新版了,欢迎下载、更新

2024 年大选将如何塑造人工智能的未来 - 《科学美国人》

2024-10-04 11:03:38 英文原文

人工智能是如何突然成为美国选举中的一个问题的:9 月 10 日,副总统卡玛拉·哈里斯 (Kamala Harris) 在辩论唐纳德·特朗普 (Donald Trump) 时提到人工智能,这是候选人第一次在大选总统辩论中提到人工智能,但这项技术它已经如此彻底地渗透到我们的个人生活和全球经济中,几乎没有人眨眼。

在那场辩论中,哈里斯表示,国家必须投资于美国的技术,这样我们才能赢得人工智能和量子计算的竞赛。特朗普也描述了美国在人工智能行业领导地位的愿景。下一任总统,无论属于哪个政党,几乎肯定会继续利用芯片和相关硬件的出口管制来寻求对中国的经济和技术优势。但在阐明人工智能的风险时,候选人之间存在巨大差异。哈里斯在这个问题上一直直言不讳,并制定了具体的政策步骤,以保护弱势群体免受潜在的人工智能伤害。相比之下,特朗普则含糊其辞地表示辞职,称人工智能可能是最危险的事物,因为它缺乏真正的解决方案,正如他在今年早些时候接受福克斯商业网络采访时所说的那样。

高级研究所社会科学家、拜登政府代理所长阿隆德拉·尼尔森表示,我们可以预见,特朗普第二届政府不会积极尝试保障人民的公民权利和自由,也不会提升消费者权利。白宫科学技术政策办公室到 2023 年。对于那些试图减轻大型科技公司的监视、其对工作场所安全的限制以及其聚集和巩固更多权力的工人的支持将会减少。

无论谁在 11 月获胜,都将在制定人工智能政策的关键时刻获胜。美国各州或联邦安全法尚未涉及该技术最强大的形式。一项备受瞩目的法案 SB 1047 将为在加州开展业务的任何人工智能开发商设立护栏,但在 9 月底被州长加文·纽瑟姆 (Gavin Newsom) 否决。国会议员也未能通过全面的立法,尽管并不是因为缺乏想法。据华盛顿特区的无党派智库布鲁金斯学会称,自 2022 年 OpenAI ChatGPT 公开亮相后,众议院和参议院有关人工智能使用或治理的法案提案呈指数级增长。白宫将面临越来越大的压力,要求其做出回应。这项技术并敦促国会采取行动。

人工智能行政命令

要了解每位候选人当选总统后可能会在人工智能领域做什么,让我们看看他们迄今为止所做的事情。国家层面对人工智能的监管主要通过三项行政命令,其中一项是特朗普政府发布的,另一项是拜登-哈里斯政府发布的,其中副总统在人工智能政策中发挥了积极作用。

特朗普于 2019 年 2 月发布了第一个与人工智能相关的命令,即“维持美国在人工智能领域的领导地位”。该命令强调了这项技术应体现的隐私权和其他价值观,并发起了“美国人工智能计划”,该计划呼吁优先考虑人工智能研究和开发工业界和学术界的发展。他于 2020 年发布的第二项命令概述了联邦人工智能使用的原则,例如透明度和合法性。该命令称,如果应用程序的性能与其预期用途不一致,政府机构应该有办法取代、脱离或停用人工智能。

布鲁金斯学会人工智能政策专家 Valerie Wirtschafter 表示,特朗普政府的做法相当受欢迎,但也有人批评对风险的关注有限。观察人士当时表示,如果美国人工智能计划未能实现目标,很大程度上是因为缺乏细节,尤其是资金,无法将政策目标转化为现实。

特朗普的两项行政命令与拜登领导下发布的行政命令之间的对比部分是理念的结果,部分是时机的结果。拜登-哈里斯政府的命令是在公开推出 ChatGPT 和类似的大型语言和生成模型之后以及人工智能制作的文本和深度伪造品(逼真的图片或视频)开始充斥互联网之后发布的。该命令于 2023 年 10 月发布,概述了政府使用人工智能的政策,并授权对国家人工智能研究资源进行测试,这是一个支持美国人研究或开发该技术的概念性计划。哈里斯-沃尔兹竞选团队最近承诺将为期两年的试点计划转变为永久性的国家人工智能基础设施。

但该命令还根据尼尔森和科学技术政策办公室其他人制定的人工智能权利法案蓝图,定义了人工智能对隐私和消费者的潜在危险:人工智能模型必须安全有效;算法不应该歧视;您应该能够选择退出;您的数据需要受到保护;当您与自动化系统交互时,您应该收到通知。

Wirtschafter 表示,特朗普的行政命令更关注我们如何促进创新,而拜登政府确实解决了其中一些风险。拜登的 2023 年命令通过商务部建立了一个报告系统,要求美国公司持续提供有关最强大人工智能系统开发的最新信息。此类系统被称为基础模型或前沿模型,能够进行自我监督,并具有至少数百亿个参数。(如果将人工智能模型比作大脑,那么参数就类似于其神经连接或突触。)

风险和人工智能模因

2023 年 11 月,哈里斯率领美国代表团参加了在英国举行的首届全球人工智能安全峰会,并宣布在国家标准与技术研究院内成立美国人工智能安全研究所。哈里斯在演讲中将人工智能给个人带来的风险(例如深度造假和虚假信息)视为其目标的存在问题,将存在的定义扩大到人类灭绝或其他世界末日人工智能场景之外。今年夏天发布的 2024 年民主党纲领还指出了人工智能的巨大潜力,同时也指出了人工智能的前景和危险,将天气预报等应用与语音克隆和欺诈进行了对比。

然而,根据特朗普挑选的副总统 J. D. Vance 的说法,人工智能最大的风险之一是 ChatGPT 和 Google Gemini 等模型中对保守主义的疯狂政治偏见。这太夸张了而且不准确。多项研究(包括《PLOS ONE》2024 年的一份报告,该报告对万斯提到的人工智能系统和其他 22 项研究进行了调查)发现,大多数大型语言模型都以中间派或适度左倾的答案回答政治问题,而不是激进的观点。

共和党政纲呼应万斯的观点,建议人工智能发展应植根于言论自由和人类繁荣。它还声称拜登-哈里斯行政命令是危险的,因为它阻碍了人工智能创新。特朗普也发誓要废除该命令。其他保守派批评者指责它依赖《国防生产法》的紧急权力来要求向工业和安全局报告。Wirtschafter 表示,如果撤销该命令,最大的后果将是政府取消对前沿人工智能模型的监管。

候选人对人工智能的态度还有另一个区别。哈里斯的竞选活动向《科学美国人》证实,她不会在竞选材料中使用人工智能生成的图像或文本。相比之下,特朗普在 X(以前称为 Twitter)以及他拥有的社交媒体平台 Truth Social 上放大了人工智能制作的内容。这些帖子包含虚假图片,错误地声称泰勒·斯威夫特和她的粉丝支持特朗普。斯威夫特可能是最著名的露骨性深度造假目标,她去年 9 月在 Instagram 上写道,这种虚假认可确实让我对人工智能产生了恐惧,以及传播错误信息的危险。在下一段帖子中,斯威夫特支持哈里斯。

非共识的人工智能图像不仅仅是世界上最大的流行歌星面临的问题。根据非营利组织民主技术中心最近的一份报告,大约 15% 的美国高中生表示,他们听说过涉及与他们学校有关的人的露骨色情深度伪造。同一份报告估计,五分之二的美国高中生都知道在学校分享的深度伪造内容,无论内容如何。

Wirtschafter 表示,从某种意义上说,这将是一套触及生活方方面面的技术。她指出,人工智能早在大型语言模型之前就已存在,但 ChatGPT 是一次震动,让人们认识到了这项技术。现在,选民们必须睁开眼睛,决定哪位总统最有能力应对人工智能时代的问题。

关于《2024 年大选将如何塑造人工智能的未来 - 《科学美国人》》的评论


暂无评论

发表评论

摘要

人工智能是如何突然成为美国选举中的一个问题的:9月10日,副总统卡马拉·哈里斯在辩论唐纳德·特朗普时提出了人工智能,这是候选人第一次在大选总统辩论中提到人工智能,但这项技术已经如此彻底它充斥着我们的个人生活和全球经济,几乎没有人眨眼。据华盛顿特区的无党派智库布鲁金斯学会称,自 2022 年 OpenAI ChatGPT 公开亮相后,众议院和参议院有关人工智能使用或治理的法案提案呈指数级增长。白宫将面临越来越大的压力,要求其做出回应。这项技术并敦促国会采取行动。然而,根据特朗普挑选的副总统 J. D. Vance 的说法,人工智能最大的风险之一是 ChatGPT 和 Google Gemini 等模型中对保守主义的疯狂政治偏见。候选人对人工智能的态度还有另一个不同之处。根据非营利组织民主中心最近的一份报告,大约 15% 的美国高中生表示,他们听说过涉及与他们学校有关的人的露骨色情深度造假事件