想象一下醒来时发现互联网闪烁、银行卡支付失败、救护车驶向错误的地址以及您不再确定是否可以信任的紧急广播。无论是模型故障、犯罪使用还是不断升级的网络冲击造成的，人工智能驱动的危机都可能迅速跨越国界。

在许多情况下，人工智能紧急情况的最初迹象可能看起来像是一般性中断或安全故障。直到后来，如果有的话，人们才会清楚人工智能系统发挥了实质性作用。

一些政府和企业已经开始搭建护栏进行管理风险遇到这样的紧急情况。欧盟人工智能法案、美国国家标准与技术研究所风险框架、七国集团广岛进程和国际技术标准都旨在防止伤害。网络安全机构和基础设施运营商也有针对黑客攻击、中断和常规系统故障的操作手册。缺少的不是修补服务器或恢复网络的技术手册。如果人工智能处于快速发展的危机的中心，这是一个防止社会恐慌以及信任、外交和基本沟通崩溃的计划。 

预防人工智能紧急情况只是工作的一半。人工智能治理缺失的一半是准备和响应。谁决定人工智能事件成为国际紧急事件？当虚假信息充斥他们的提要时，谁向公众讲话？如果正常线路受到损害，谁来保持政府之间渠道的畅通？

政府可以而且必须在为时已晚之前制定人工智能应急计划。在即将开展的基于灾害法和其他全球紧急情况的教训的研究中，我研究了现有的国际规则如何包含人工智能剧本的组成部分。各国政府已经拥有法律工具，但现在需要就如何以及何时使用它们达成一致。我们不需要新的、复杂的机构来监督人工智能——我们只需要政府提前规划。 

如何为人工智能紧急情况做好准备

我们之前已经看过一般的治理模式。《国际卫生条例》允许世界卫生组织宣布全球卫生紧急状态并协调行动。当辐射可能跨境传播时，核事故条约要求迅速通报。电信协议消除了法律障碍，因此紧急卫星设备可以快速启动。网络犯罪公约设立了 24/7 联络点，以便警察部队可以在短时间内进行合作。这些课程展示了预先商定的触发因素、指定的协调员和快速的沟通渠道可以在紧急情况下节省时间。

人工智能紧急情况需要相同的基础。从共享定义开始。人工智能紧急事件应该是由人工智能的开发、使用或故障引起的异常事件，可能会造成严重的跨境损害，并且超出任何单一国家的应对能力。至关重要的是，它还必须涵盖仅怀疑人工智能参与或只是几个可能原因之一的情况，以便政府能够在法证确定性到来（如果确实出现）之前采取行动。大多数事件永远不会达到这个水平。提前商定定义有助于避免在最初的关键时刻陷入瘫痪。

接下来，政府需要一本实用的剧本。本手册的第一个要素应该是定义一组通用的触发因素和基本的严重程度，以便官员知道何时从常规事件升级为国际警报，包括确定人工智能参与仅可信怀疑而不是最终证实的标准。第二章应包括任命一名全球协调员，该协调员可以在技术专家、执法合作伙伴和灾害专家的支持下迅速召开会议。第三部分应该是建立可互操作的事件报告系统，以便国家和公司可以在几分钟而不是几天内交换重要信息。接下来，我们必须使用经过身份验证的模拟方法（例如无线电）创建危机通信协议。最后，我们必须写出一份明确的连续性和遏制措施清单。这些可能包括放慢高风险人工智能服务的速度或将关键基础设施切换为手动控制。

构建人工智能应急准备

那么，谁应该监督这些人工智能应急准备举措？我的答案是：联合国。 

将这一系统纳入联合国结构很重要，原因有几个。一是人工智能紧急情况不会尊重联盟。联合国锚定机制提供了更广泛的包容性，并减少了敌对联盟之间的重复。它为没有先进人工智能能力的国家提供技术帮助，因此负担不会由少数大国承担。它增加了合法性和约束力。非常权力必须合法、相称且可审查，特别是当它们涉及数十亿人使用的数字网络时。

这一国际层面需要政府现在可以采取的国内措施来配合。每个国家都应该指定一个 24/7 的人工智能紧急联络点。应审查紧急权力是否涵盖人工智能基础设施。部门计划应与基本事件管理和业务连续性标准保持一致。联合演习应该练习虚假信息波、模型故障和跨部门中断。在敌对攻击迫使进行此类更新之前，应优先考虑向后量子密码学的迁移。政府还应该注册受信任的发件人和警报模板，以便在系统不稳定时消息仍然可以到达公民手中。