拜登的人工智能国家安全备忘录呼吁大力推动

华盛顿——乔·拜登总统指示所有美国国家安全机构将人工智能技术嵌入其系统，在动荡的政治环境中设定了雄心勃勃的目标。

这是拜登 10 月 24 日指示广大组织负责任地利用人工智能后技术专家的首次评估，尽管这项技术正在迅速发展。

“这就像在驾驶飞机的过程中试图组装一架飞机一样，”新美国安全中心国防项目研究员乔什·沃林说。– 这是一项艰巨的任务。这是许多机构必须关注的一个新领域，他们过去可能不一定关注过，但我也想说，这肯定是一个关键领域。”

沃林说，联邦机构将需要迅速聘请专家，让他们获得安全许可，并着手完成拜登规定的任务，因为私营公司正在投入资金和人才来推进他们的人工智能模型。

该备忘录源于总统去年的行政命令，要求五角大楼；间谍机构；司法部、国土安全部、商务部、能源部、卫生与公众服务部；和其他人利用人工智能技术。该指令强调了国家安全系统的重要性，同时在人工智能支持的国家安全活动中保护人权、公民权利、公民自由、隐私和安全。

联邦机构有完成任务的最后期限，有些甚至长达 30 天。沃林等人表示，最后期限是由技术进步的速度决定的。

该备忘录要求美国国家标准与技术研究所的人工智能安全研究所在 4 月份之前，在公开部署或发布之前对至少两个前沿人工智能模型进行自愿初步测试，以评估可能对国家安全构成威胁的能力. –

前沿模型是指像 ChatGPT 这样的大型人工智能模型，可以识别语音并生成类似人类的文本。

测试的目的是确保这些模型不会无意中使流氓行为者和对手能够发起进攻性网络行动，或者“加速生物和/或化学武器的开发、自主执行恶意行为、自动开发和部署其他武器”。模型。 –

但备忘录还添加了一个重要警告：开始测试人工智能模型的最后期限将“取决于私营部门的合作”。

ITI 的政策高级副总裁约翰·米勒 (John Miller) 表示，在测试截止日期前完成测试是现实的。ITI 是一个代表谷歌、IBM、英特尔、Meta 等顶级科技公司的贸易组织。

由于该研究所已经与模型开发商合作进行模型测试和评估，因此这些公司有可能在 180 天内完成或至少开始此类测试，”米勒在一封电子邮件中表示。但备忘录还要求 AI 安全研究所在 180 天内发布有关测试模型的指南，因此“质疑这两个时间表将如何同步似乎是合理的”，他说。

到二月份，国家安全局应发展对人工智能模型进行快速系统分类测试的能力，以检测、生成和/或加剧攻击性网络威胁。备忘录称，此类测试将评估人工智能系统如果被滥用，可以在多大程度上加速进攻性网络行动。

– 危险 – 订单

距离总统选举只剩下一周了，这一指令的结果显得尤为重要。

共和党政纲称，如果当选，唐纳德·特朗普将废除拜登“阻碍人工智能创新的危险行政命令”，并将激进的左翼思想强加于这项技术的发展。取而代之的是，共和党人支持植根于言论自由和人类繁荣的人工智能发展。

由于拜登的备忘录是行政命令的结果，因此如果特朗普获胜，“他们可能会停止使用人工智能”，并在人工智能领域走自己的路，美国副总统丹尼尔·卡斯特罗 (Daniel Castro) 表示。信息技术与创新基金会在接受采访时表示。

在特朗普的领导下，负责合规的联邦部门的领导层也将发生重大变化。随着新政府的上任，联邦政府中多达 4,000 个职位易手。

然而，追踪该问题的人士指出，两党已达成广泛共识，即出于国家安全目的而采用人工智能技术至关重要，党派之争无法使其脱轨。

宾夕法尼亚大学教授迈克尔·霍洛维茨 (Michael Horowitz) 表示，备忘录中的任务和截止日期反映了各机构之间几个月前的深入讨论。他最近担任国防部副助理部长，其职责包括人工智能的军事用途和先进的技术。

“我认为，无论谁赢得选举，[备忘录]的实施都绝对至关重要，”霍洛维茨在接受采访时表示。

沃林指出，该备忘录强调美国机构需要了解先进的生成人工智能模型带来的风险，包括与化学、生物和核武器相关的风险。他在接受采访时表示，对于国家安全等威胁，各方已达成一致。

参议院情报委员会主席、弗吉尼亚州民主党人马克·沃纳在一份声明中表示，他支持拜登的备忘录，但政府应该在未来几个月内与国会合作，制定更明确的战略，让私营部门参与应对国家安全风险整个供应链的人工智能系统。

移民政策

该备忘录承认，在半导体设计等领域，长期需要吸引世界各地的人才来到美国，这一问题可能与移民等更大的问题联系在一起。国防部、州政府和国土安全部被指示利用现有的法律权力将他们带进来。

“我认为，人们广泛认识到 STEM 人才在确保美国技术领先地位方面的独特重要性，”霍洛维茨说。– 人工智能也不例外。 –

该备忘录还要求国务院、美国驻联合国代表团和美国国际开发署在四个月内制定一项战略，以推进在国家安全中使用人工智能的国际治理规范。

霍洛维茨说，美国已经采取了多项措施来促进民用和军事用途的人工智能国际合作。他举了美国主导的《关于负责任地军事使用人工智能和自主的政治宣言》为例，该宣言已得到50多个国家的认可。

“这表明美国已经通过建立负责任行为的强有力规范而处于领先地位，”霍洛维茨说。

卡斯特罗表示，推动负责任地使用技术的努力需要在更广泛的全球辩论的背景下看待，辩论的主题是各国是走向独裁制度还是倾向于民主和尊重人权。他表示，中国正在加大对非洲投资。

“如果我们想让非洲国家在人工智能政策上与美国和欧洲保持一致，而不是倒向中国，”他说，“我们实际上要做什么才能让他们站在我们一边？”¤

___

©2024 CQ-Roll Call, Inc.，保留所有权利。访问cqrollcall.com。由 Tribune Content Agency, LLC 发行。

故事还在继续