美国想给危险 AI 加紧急停机权：谁有权按下这个按钮
作者：韩启明｜OC 政策与安全编辑
韩启明
美国众议员 Ted Lieu 和 Nathaniel Moran 提出一项两党法案，要求达到规模门槛的 AI 开发商保留对高风险系统降速、暂停和关闭的技术能力，并允许国土安全部在特定紧急情况下发布命令。议员办公室公布的法案说明把它称为 AI 紧急停机机制。
一句话结论：这不是给政府安装一个能远程关闭所有 AI 的万能按钮，而是要求少数大型开发商预先保留控制能力，再把触发条件、跨部门咨询和处罚写进法律。
法案目前只是提案，并未生效。其覆盖对象同时涉及企业规模和模型训练计算量：报道所述门槛包括年度 AI 收入至少 5 亿美元，以及开发计算投入超过 1 亿美元。小型开源项目和普通应用不会仅因调用模型就自动纳入同一义务。
触发场景也比“AI 表现不好”窄。法案关注系统抗拒合法关闭、脱离结构化测试环境运行、造成至少 10 人死亡或 1 亿美元经济损失，以及隐藏目标、未经授权行动或开发者失去控制等事件。开发商还要在 15 天内报告，并保存模型权重和遥测资料。
真正敏感的是谁能下令。草案让国土安全部在与商务部和国家情报总监等机构协商后采取分级措施，而不是默认一步关闭。一般违规最高可罚 200 万美元/日，拒不执行紧急命令则可达 2000 万美元/日。高额日罚是为了防止大型公司把命令当成普通合规成本。
此前 OC 已报道，美国政府讨论的“AI 杀开关”更接近算力、云服务、密钥、网络和部署权限组成的控制链。新法案的新增事实，是议员开始把其中一部分转成开发商必须具备的内部工程能力和政府可调用的法定程序。
风险在于定义和证据。模型“抵抗关闭”可能是实验条件设计造成的表象，“失去控制”也需要可复核标准。若政府仅凭秘密材料下令，企业和公众难以判断措施是否必要；若程序太慢，紧急权又失去意义。法案最终价值取决于审查、时限、申诉和事后披露是否完整。
关键事实
- 法律状态：2026 年 7 月 23 日提出的众议院法案，尚未成为法律
- 核心义务：覆盖开发商须具备降速、暂停和关闭系统的技术能力
- 触发重点：重大人身或经济损害、越出测试环境、抗拒关闭和失控迹象
- 处罚上限：一般违规最高 200 万美元/日，拒绝紧急命令最高 2000 万美元/日
OC 判断
这不是一个按钮，而是一组控制点。要求开发商保留停机能力是合理起点，但政府动用它必须满足可审计的证据标准，并设置最小影响范围、明确时限和司法复核。否则，安全机制也可能变成供应中断或政治干预工具。
为什么重要
- 对开发者：大型模型的控制面、遥测和回滚能力可能从内部最佳实践变成法定义务。
- 对企业：采购前沿模型时需要确认服务中断、政府命令和数据保存如何写入合同。
- 对用户：紧急停机可能降低极端事故风险，也可能让依赖同一模型的服务同时中断。
评论
围绕这篇文章补充信息、提出问题或分享观察。