下一届政府的人工智能优先事项

塞巴斯蒂安·埃尔鲍姆 (Sebastian Elbaum) 是外交关系委员会的驻场技术专家。Adam Segal 是 CFR 新兴技术和国家安全领域的 Ira A. Lipman 主席兼数字和网络空间政策项目主任。

从很多方面来看，美国在人工智能领域占据主导地位：它拥有更多顶级人工智能模型和更多领先企业，对人工智能开发的投资也比中国和欧洲更多。美国市场由少数生产基础模型的私营公司主导——在海量数据集上训练的大型模型可以执行许多任务——但还有一个快速增长的生态系统，由较小的公司构建专门的系统，通常是在基础系统之上. . . . . . . . . . . . . . . . . . 

支持这些系统的硬件也由美国公司主导，主要是英伟达、AMD 和英特尔，但华为等中国公司在半导体设计和制造方面的竞争力越来越强。从长远来看，供应链问题，尤其是英伟达对台湾制造能力以及训练模型所需的大量能源的可用性问题，给美国人工智能的未来蒙上阴影。如果不能解决这些问题和其他问题，也不能创造一个平衡机遇和风险的监管环境，可能会减缓美国的创新并威胁美国的经济和国家安全。 

联邦政府对人工智能的出现的主要反应是什么？ 

在过去的十年中，美国联邦政府在人工智能的采用方面取得了长足的进步。大多数机构都任命了首席人工智能官，收集人工智能的潜在用例，调整其合规机制，并将人工智能使用指南纳入其实践中。新成立的人工智能安全研究所采用了美国国家标准技术研究所制定的风险框架来开展人工智能工作，并与构建最复杂人工智能系统的主要科技公司建立了自愿评估计划。美国国家科学基金会正在牵头开展国家人工智能研究资源试点项目，为研究人员和教育工作者提供额外的计算能力、数据集和模型，从而为技术创新和传播奠定更广泛的基础。 

即将上任的唐纳德·特朗普政府已表示，它将优先考虑加速人工智能创新，并拆除其前任认为可能阻碍创新的一些监管障碍。尽管如此，政府仍应采取许多措施来确保人工智能系统的安全和美国人工智能生态系统的竞争力。 

哪些法律管辖人工智能？ 

到目前为止，还没有全面的人工智能法。国会已经审议了数百项涉及人工智能的法案，以及几项直接解决其风险的法案，但它通过的最重要的人工智能法甚至不是专门的人工智能法。这2022 年 CHIPS 和科学法案资助了提高半导体制造能力和科学研究所需的投资，以支持下一波人工智能的进步。除此之外，国会还制定了几项人工智能法案，纳入年度国防授权法案中。例如，2021 年，该法案创建了国家人工智能倡议办公室，并提供了一个协调国防和情报界与民事联邦机构之间的研发 (R&D) 的结构。 

尽管如此，尽管两党都支持某种特定于人工智能的监管，但国会对此采取行动的前景仍不确定。共和党和民主党在立法目的和拟议方法上存在分歧。到目前为止，前者更关注人工智能和内容审核，后者则关注人工智能对公平和经济包容性的影响。因此，行政部门迄今为止在人工智能治理方面处于领先地位。 

唐纳德·特朗普总统在其第一任期内发布了两项关于人工智能的行政命令。2019 年 2 月签署的第 13859 号行政命令（EO）强调了人工智能领导力对美国的重要性。它概述了一项协调一致的联邦战略，优先考虑人工智能研究和开发，制定标准以减少部署障碍并确保安全，为工人配备人工智能技能，培养公众对其技术的信任，并与国际合作伙伴合作。2020 年 12 月签署的 13960 号行政命令指导联邦政府使用人工智能，以提高运营和服务的效率和效果。它还制定了人工智能应用的原则，并要求各机构创建人工智能用例清单，确保遵守这些原则，并促进机构间协调，以培养公众对人工智能技术的信任。 

2023 年 7 月，乔·拜登总统宣布领先人工智能公司自愿承诺推动人工智能技术安全、可靠和透明的发展。2023 年 10 月，总统签署了 EO 14110，重点关注新兴人工智能技术的负责任开发和部署，要求对人工智能系统进行风险评估、稳健评估、标准化测试和保障措施，以提供广泛的用户保护。该命令还支持人工智能时代的职业培训和教育，并寻求增强联邦政府负责任地使用人工智能的能力，包括吸引和留住人才。最后，它通过与国际合作伙伴合作开发管理人工智能风险和收益的框架，提升了美国的全球领导地位。 

拜登在行政命令之后发表了第一个国家安全备忘录2024 年 10 月关于人工智能。国家安全管理局预计将加速尖端人工智能工具的开发，保护人工智能研发免遭盗窃和利用，并促进采用先进的人工智能功能来满足国家安全需求，同时确保国防和情报使用人工智能保护人权并推进民主价值观。 

美国各州有管理人工智能使用的规则吗？ 

在联邦层面缺乏立法的情况下，包括加利福尼亚州、科罗拉多州、纽约州、德克萨斯州和弗吉尼亚州在内的十几个州已经批准了支持各种形式的消费者保护、利益相关者参与人工智能系统开发和监控的法案，并针对违规行为追究责任。例如，加利福尼亚州立法机构已通过法案，保护个人的声音或肖像免遭复制，并要求在人工智能生成的图像上添加水印。SB 1047 强制要求对花费超过 1 亿美元培训前沿模型的公司进行安全培训，并要求人工智能开发人员接受 –合理照顾— 避免可能导致大规模人员伤亡的严重损害或对关键基础设施造成灾难性损害的网络攻击。在人工智能研究人员、科技公司、风险投资家以及国会议员的强烈反对后，该法案被州长加文·纽瑟姆 (Gavin Newsom) 否决。确实存在这样的风险：州级举措，尤其是为用户提供人工智能系统保护的举措，可能会产生相互冲突的法律，而科技公司将难以驾驭这些法律，从而减慢创新速度。 

在建立监管规范方面是否有任何国际协调？ 

美国通过七国集团 (G7) 将科技公司签署的自愿承诺国际化广岛人工智能进程。美国还参加了英国人工智能安全峰会并签署了布莱切利宣言，鼓励开发前沿人工智能技术的参与者的透明度和问责制。2024 年 9 月，美国签署了欧洲委员会《人工智能与人权、民主和法治框架公约》。本文件旨在确保人工智能系统符合人权、民主和法治。 

人工智能治理路线图应该是什么样子？ 

设立人工智能委员会。尽管特朗普第二任期内人工智能政策的具体细节尚不清楚，但这位候任总统已表示，他将撤销 14110 号行政命令，取消相关规定，以便美国能够更有效地与中国竞争。即将上任的政府也明确表示希望限制联邦政府并削减开支。 

尽管如此，特朗普政府应该成立一个人工智能委员会来确保人工智能系统的安全。私营科技公司正在推动人工智能革命，但他们无法确保其产品的收益大于风险。此外，市场常常会激励他们在确保产品安全之前率先推出产品。目前，现有的政府机构都不具备制定联邦人工智能政策和法规、对人工智能系统进行检查、检查这些系统是否足以满足其用例以及在系统失败时征收处罚所需的专业知识、资源和权力。 

人工智能委员会可以效仿国家公路交通安全管理局，负责管理车辆的安全、保障和效率。该委员会还将收集、分析和调查事件，并在必要时调用人工智能系统的召回。这些措施将激励公司改进和加速其人工智能系统的质量控制实践。 

刺激对大学的人工智能投资。特朗普政府还应该支持大型科技企业之外的人工智能系统投资，特别是联邦实验室和大学。前沿的人工智能领域现在被少数私人公司垄断，这些公司投资并依赖大量计算资源来推进技术。大学拥有人才，但无法匹配计算投资水平。美国国家科学基金会对人工智能相关研究的年度资助8亿美元到 2023 年，与训练几个基础人工智能模型的成本相当，比顶级人工智能公司的总训练预算小一个数量级；OpenAI 的训练和推理成本可能达到2024 年 70 亿美元. . . . . . . . . . . . . . . . . . 

缺乏投资削弱了大学开发下一代技术以及培训将创建新公司并为其配备员工的年轻研究人员和工程师的能力。更根本的是，如果这种趋势继续下去，在涉及创造就业或教育机会等社会目标而不是推动私营公司的市场价值时，大学将不再处于独立判断新兴技术的优势和劣势的可靠地位。​​​​ 

协调人工智能和能源政策。随着人工智能系统变得越来越复杂，它们需要具有更强计算能力的数据中心，这也需要更多的能源。一项研究研究发现，到 2027 年，人工智能将占全球用电量的 0.5%。企业可以通过开发更高效的芯片、架构、算法和模型来降低能源成本，但最终尚不清楚这些节省是否会带来更低的能源消耗或只是促进更多的使用。政府可以通过简化监管流程、激励私营部门对电网现代化的投资、支持研究、示范、放宽部署和允许先进核项目来帮助确保足够的能源容量。 

本作品仅代表作者的观点和意见。外交关系委员会是一个独立的、无党派的会员组织、智库和出版商，在政策问题上不采取任何机构立场。