作者：韩启明｜OC 政策与安全编辑

据相关公开文章与报道，前 Google DeepMind 研究人员解释自己离开 Google 的原因，称 Google 与美国国土安全部、国防相关机构的 AI 合同没有给出足够严格的使用限制，尤其是对致命武器、监控和移民执法等高风险用途的约束。

一句话结论：这不是一个员工“理想主义离职”的小故事，而是 AI 公司在政府合同面前如何兑现伦理承诺的问题。

大型 AI 公司和政府合作不是新鲜事。云计算、网络安全、数据分析、翻译、文档处理，都可能进入政府采购。但前沿 AI 模型不一样，因为它可以被嵌入更多判断和执行环节。一个模型如果被用于客服，风险主要是服务质量；如果被用于执法、移民筛查、军事分析，风险就会直接落到人的权利、自由甚至生命安全上。

这位研究人员的核心质疑，不是“Google 绝对不能和政府合作”，而是合作时有没有清楚的红线。比如合同是否禁止自主武器？是否限制大规模监控？是否允许模型输出进入执法判断？是否有外部审计？员工提出反对意见时，公司是否有正式机制处理？这些问题比“AI 向善”的口号具体得多。

读者可能会问：企业不卖给政府，难道让政府用更差、更不透明的系统吗？这是一个合理问题。OC 的判断不是简单站在“卖”或“不卖”一边，而是看约束是否足够强。负责任的政府 AI 合同至少应该有用途清单、禁止用途、数据范围、人工复核、审计日志、外部监督和违约退出机制。没有这些，所谓“我们会负责任地使用 AI”就只是公关语。

Google 过去在 Project Maven 之后曾经建立 AI 原则，强调不开发造成整体伤害的技术，不开发主要用途为武器的 AI，也会考虑安全和人权影响。问题是，原则写在网页上容易，面对政府大合同时怎么执行才难。员工离职之所以有报道价值，是因为它把公司价值观从品牌页面拖回了采购条款。

OC 的判断是，前沿模型公司未来都会遇到类似问题。OpenAI、Anthropic、Google、Meta 都不可能完全避开政府客户。真正需要社会持续追问的是：AI 公司是不是把“伦理”做成了销售时可撤销的修饰词，还是把它写进了合同、权限、日志和终止条件里。

为什么重要：

• 对开发者：参与政府或军警相关项目时，技术边界不能只由需求方定义。
• 对企业：AI 伦理不是品牌声明，而是合同、审计、权限和责任链。
• 对用户：模型能力越强，它进入公共权力系统时越需要透明和可追责。

参考来源：

• Google DeepMind
• Google AI Principles
• Google Public Sector