参议员要求调查军事 AI 情报错误，人工签字之后还要追证据
据 CNN 9 月 19 日报道，美国参议员 Mark Warner、Jack Reed 和 Chris Coons 致函相关部门，要求监察机构调查媒体披露的 AI 辅助情报与目标判断问题。调查诉求本身不等于调查结论。
作者：韩启明｜OC 政策与安全编辑
据 CNN 9 月 19 日报道，美国参议员 Mark Warner、Jack Reed 和 Chris Coons 致函相关部门，要求监察机构调查媒体披露的 AI 辅助情报与目标判断问题。调查诉求本身不等于调查结论。
一句话结论：高风险决策里的人工监督，必须让人看见原始证据和数据时效，而不只是批准一段生成文本。
CNN 引述消息人士称，一份借助 AI 生成的报告错误描述了一艘中国货船运载的材料，美方一度准备采取拦截行动，随后发现报告不实。这是媒体报道的事件经过，本文没有独立获取完整情报材料。
来信还提到另一类问题：与伊朗一次致命袭击相关的过时目标信息和被忽视的警告。两种错误不能混成“AI 幻觉直接造成所有后果”。凭空生成内容、使用陈旧资料、操作人员忽略警告，发生在不同环节，需要不同证据来确定责任。
Coons 与 Reed 此前公布的国防 AI 法案说明提出人工判断、手动停用和部署前测试等要求。这份文件说明其政策主张，不能当成已经生效的法律，也不能替代对本次事件的调查。
从系统设计看，人在流程中并不自动意味着监督有效。如果界面只给出一个流畅结论，没有标明哪些句子来自材料、材料是什么时候更新的，审批者便很难发现问题。有效的核验应允许沿着结论回到来源，看到冲突记录，并在依据不足时停止推进。
关键事实
- 来源：CNN 报道的参议员来信及匿名消息人士叙述。
- 新增事实：要求相关监察机构开展调查。
- 证据边界：媒体披露、议员质疑与已完成调查的认定是三件不同的事。
OC 判断
这次争论应落到证据链和责任链。不能用“有人签字”替产品设计免责，也不能用“AI 参与了”跳过对数据、操作和决策环节的分别调查。
为什么重要
- 对开发者：结论需要携带可回查的来源和更新时间。
- 对机构：监督人员要有实际暂停权限和足够核验时间。
- 对公众：应关注调查材料与整改结果，避免先把责任归给一个模型名称。
评论
围绕这篇文章补充信息、提出问题或分享观察。