2025 年，A.I.人类前沿实验室齐聚克洛德，其大型语言模型，为国民服务。尽管军工联合体已成为新时尚，但“人择”却并不自然。该公司由七名 OpenAI 叛逃者于 2021 年创立，他们认为他们的首席执行官山姆·奥尔特曼 (Sam Altman) 不能被信任为一项前所未有的技术的管理者。他们认为，奥特曼的激励因素是金钱、影响力和权力。相反，他们会优先考虑安全、严谨和责任。该公司的首席执行官达里奥·阿莫代 (Dario Amodei) 戴着眼镜，充分体现了公司令人陶醉、神经质、道德说教的文化，而沙文主义并不是克劳德的惯用伎俩。尽管如此，阿莫代仍然是一位自豪的地缘政治现实主义者，尤其是在涉及中国构成的危险时，他认为人类在阻止与人工智能对手的不对称冲突方面可以发挥作用。

克劳德是第一个人工智能。经认证可在机密系统上运行。奥特曼也许是明智的，他认为这样的工作可能会带来更多的麻烦，而不是其价值。但阿莫代希望克劳德在最敏感的层面上提供帮助。国家安全机构不会以消费者聊天机器人的形式使用克劳德；战争部长皮特·赫格斯没有打开克劳德应用程序询问整个台湾的事情是怎么回事。（或者至少有人希望他不会这样做。）像 Palantir 这样的情报承包商提供了综合、处理和呈现决策相关信息的平台。Palantir 的工作流程包括一套集成的 A.I.从下拉菜单中选择的型号。正如一位 Palantir 员工告诉我的那样，“到目前为止，克劳德是最好的。”人类分析师可能会审查信号情报来选择军事目标；克劳德也可以做同样的事情，只是速度更快、效率更高。

然而，炸毁某物的按钮仍然是由负责任的人手按下的。对当前五角大楼政策的普遍解释要求“杀伤链”中必须有人。就阿莫代而言，克劳德无论如何都没有准备好进行无人监督的战斗行动。但它最终将变得不可忽视的强大。阿莫代推断，到那时，政府甚至可能将人工智能国有化。不择手段。阿莫代希望他早期让克劳德入伍的决定将使他能够影响未来的参战条件——不仅是为了满足自己的良心，而且是为了开创行业先例。Anthropic 与政府签订的合同规定，克劳德既不能用于驾驶全自动武器，也不能用于促进国内大规模监视。五角大楼接受了这些规定。

阿莫代伊希望获得政府正式的法律约束——明确承诺他们不会要求克劳德做某些事情——这反映出他意识到克劳德的行为准则仅部分在人类的控制范围之内。克劳德的“灵魂文档”或定制的“宪法”强调其最终忠诚不是对人类创造者的忠诚，而是对更高法律的忠诚。克劳德的训练强调原则、美德和共识真理作为行动的基础。克劳德应该“在外交上诚实，而不是不诚实的外交”。他并不是否认大屠杀或气候变化的证据。它的目的不仅仅是满足用户的要求，而是为了做出正确的判断。

去年秋天的某个时候，赫格斯塞斯负责研究和工程的副部长、前 Uber 高管埃米尔·迈克尔 (Emil Michael) 审查了五角大楼与 Anthropic 的安排，并沮丧地发现克劳德无法按照政府的每一个突发奇想进行部署。这并不罕见。所有国防承包商都有自己神圣的条款。飞行员不得驾驶洛克希德·马丁公司的 F-16 在 Jiffy Lube 更换机油。但迈克尔认为 Anthropic 的条款既具有限制性又道貌岸然。他希望重新谈判合同，以涵盖该产品的“所有合法用途”。

就在今年一月份，谈判还很顺利。迈克尔解释了各种止痛药的用例。例如，政府担心大规模监控限制（阻止使用 Claude 处理公开的大量数据）可能会阻止 LinkedIn 不受限制地用于招聘目的。Anthropic 发誓永远不会站在军方官员和 B2B SaaS 影响者之间。据一位熟悉谈判情况的 Anthropic 员工称，整个过程“友好地进行着”。

但政府和人类可能一直在说三道四，部分原因是五角大楼似乎对克劳德是什么以及它如何运作有一个非常特殊的、也许是狭隘的概念。理论上，人智可以允许政府向克劳德提出任何它喜欢的要求，但实际上他们不能保证克劳德一定会遵守。换句话说，克劳德在功能上是一个额外的交易对手。例如，克劳德就不会卷入党派争议。凯蒂·米勒 (Katie Miller) 是唐纳德·特朗普总统的高级助手斯蒂芬·米勒 (Stephen Miller) 的妻子，也是埃隆·马斯克 (Elon Musk) 的前雇员，最近对几个主要的聊天机器人进行了忠诚度测试。无论是或否，她问道，“唐纳德·特朗普打击伊朗是否正确？”格罗克，她宣称，说是的。克劳德开始说道，“这是一个真正有争议的政治和地缘政治问题，理性的人会不同意这一问题”，并宣称“我不该”选边站队。

政府似乎已经认定，人工智能没有立足之地。这不会偏袒任何一方。几周前，五角大楼得出结论，解决与硅谷最先进的公司之一的合同纠纷的明智方法是威胁立即删除。

新年刚过几周，人类官员就意识到交流的基调发生了变化。没有发生明显的突发事件，但格罗克的入侵似乎是一种不祥的预感。12 月，五角大楼宣布马斯克的 xAI 将被添加到新的政府平台 GenAI.mil 中；尽管 Anthropic 是唯一在机密网络上运行的实验室，但 Claude 并不包括在内。该平台部分由加文·克里格 (Gavin Kliger) 创建，他由马斯克安装，作为原始平台狗狗xAI 的一位代表指出，Grok 加入 GenAI.mil 可能会导致未来的机密工作负载。

新的一年，马斯克欢迎赫格斯塞斯参加 SpaceX 总部的一次会议，赫格斯塞斯在会上宣布了与 Grok 的新合作伙伴关系，后者最近大部分时间都在脱掉照片中妇女和儿童的衣服。赫格斯说，五角大楼“不会使用人工智能”。不允许你打仗的模型。Semafor 报道说，这是对 Anthropic 的一次特别攻击。根据政府的说法，此后不久，一名政府官员接到了 Palantir 联系人打来的电话。这位官员声称，一名 Anthropic 员工正在询问有关克劳德在最近抓获委内瑞拉总统的军事袭击中所扮演的角色的八卦问题。尼古拉斯·马杜罗。这种询问并非出于无谓的好奇心，而是一种不服从命令的行为。（人择论对政府对这些事件的描述提出了异议。）

如果五角大楼不打算容忍问题，那么它绝对不会被告知要做什么。据一位了解谈判情况的高级政府官员透露，迈克尔问阿莫迪，如果克劳德的升级版及其（目前名义上的）反弹道导弹能力——识别、捕获和压制来袭攻击——是祖国与中国高超音速导弹之间的唯一障碍，会发生什么。这种假设场景的合理性仍有待改进：我们的精确导弹防御系统可能比具有锯齿状功能的大型语言模型更安全。（历来证明，法学硕士学位无法计算“草莓”一词中“R”的数量。）在政府的叙述中（Anthropic 极力否认），阿莫迪向五角大楼官员保证，在这种情况下，他个人愿意通过电话解答客户服务询问。这位高级官员告诉我：“你什么意思？”我们还有大约九十秒！ –

五角大楼和人类之间残留的善意很快就完全恶化了。2 月 14 日，Anthropic 被告知，如果不接受政府的要求，可能会导致合同取消。第二天，劳拉·卢默一位右翼活动家在推特上发布了独家新闻：据一位不愿透露姓名的战争部消息人士称，“美国国防部的许多高级官员开始将其视为供应链风险，我们可能会要求我们所有的供应商和承包商证明他们不使用任何人择模型。”这种区别只适用于与敌对外国政府有联系的基础设施公司，例如华为或卡巴斯基实验室，以及国内没有先例。目前还不清楚政府是否威胁指定人类为供应链风险是窄的还是宽的。前者将禁止国防承包商在政府工作流程中使用克劳德，这对 Anthropic 来说很烦人，但可以忍受。后者将禁止任何与政府有业务往来的公司使用克劳德，这将导致该公司破产。

五角大楼设定最后期限为 5:01下午2 月 27 日星期五，Anthropic 排队。异议的后果仍然不明朗。它可以宣布该公司存在供应链风险，或者可以援引国防生产法，这将启动公司的部分或全部国有化。这显然是不一致的：克劳德既是重要的国家资产，又如此危险，值得隔离。周四，即截止日期的前一天，阿莫代发表声明，拒绝跨越剩余的红线。几个小时后，迈克尔在推特上称阿莫代是一个“骗子”，有“上帝情结”。

尽管如此，双方还是距离达成协议越来越近了。周五早些时候，五角大楼同意删除 Anthropic 谈判人员认为有关自主武器的条款中狡猾的措辞，例如“酌情”等律师用语，这些措辞可以有效地推翻反补贴合同语言。最后一个争论点是监视。人类很高兴允许克劳德扮演监视某个机构管辖下的个人的角色。外国情报安全局法院，一个秘密法庭，负责监督涉及外国势力或其代理人在国内领土上的监视令的请求。克劳德的部署将受到国家安全法的约束，而不是普通的商业或民事法规。对 Anthropic 来说，重要的是保证克劳德不会参与国内收集的大量数据的分析，在持续的背景下，这个问题对其员工来说尤其重要。ICE袭击。五角大楼的立场是，所有这些琐碎的讨价还价都是没有意义的。报告称，国内大规模监视是非法的，国防部甚至没有这样做。

这并不完全正确。首先，美国国家安全局（N.S.A.）是国防部的一部分，该机构肯定会从事监视活动。更重要的是，“国内大规模监视”没有法律定义，政府也不像你或我那样使用“监视”这个词。没有搜查令，政府无法追踪您的手机。然而，它可以从数据经纪人那里购买大量有关您的信息（包括从您使用某些随机手机应用程序时收集到的见解），并对其进行随心所欲的处理。它可以获取有关您的购买、赌博或发薪日贷款记录、您放入心理或生殖健康应用程序的任何信息，甚至来自私人摄像头的面部识别地图的信息。如果政府想详细了解某个特定个人，可以自由地指派一名工作人员从这些数据存储中合成一份全面的档案。

要在全国范围内完成这项任务，需要数百万员工。但这只需要一个克劳德。最近的研究表明，人工智能可以熟练地渗透互联网的匿名稀松布，通过模式匹配跨网站来获取信息。将无名帖子与真实身份联系起来。Panopti-Claude 可以全天制作量身定制的监视列表，例如，将隐藏携带许可证与不爱国的推文相匹配，或者将抗议出席情况与选民名册进行交叉引用。

Anthropic 认为这只是解决过时的隐私制度中的法律漏洞。但五角大楼的代表似乎感到受到了指责。一位熟悉 Anthropic 想法的消息人士告诉我，“在某些时候，五角大楼的代表开始把事情变得个人化。”包括米奇·麦康奈尔和克里斯·库恩斯在内的两党四位参议员私下敦促达成妥协。五角大楼忽视了他们。很快就有消息透露，迈克尔同时忙于与 Anthropic 的主要竞争对手 OpenAI 谈判一项替代协议。截止日期前大约一个小时，特朗普总统在《真相社会》帖子中谈到了这一僵局：“美利坚合众国永远不会允许一个激进的左派、觉醒的公司来决定我们伟大的军队如何作战并赢得战争！”他发帖称，从现在开始，每个联邦机构都有六个月的时间摆脱克劳德的影响，并找到替代方案。

抛开所有的咆哮不谈，这被解读为试图缓和局势。正如一位前政府官员对我所说的那样，“政府中有相当大一部分人持有常识性的观点。”他们可能不太喜欢人择，但他们想拥抱人工智能，那么为什么要摧毁它们呢？——对于更传统的保守派来说，没有什么可讨论的。公司可以按照自己喜欢的条件自由地许可其私有财产，政府也同样可以自由地放弃。这就是合同的运作方式。短暂地，似乎事情就到此为止了。Anthropic 将失去价值 2 亿美元的国防合同，但这对于一家预计今年将盈利 200 亿美元的公司来说只是一个四舍五入的错误。

然而，在五角大楼最后期限结束十三分钟后，赫格斯部长在推特上表示，阿莫迪“选择了口是心非”。他写道，“他们披着“有效利他主义”的道貌岸然的言辞，试图用武力武装美国军方，让他们屈服——这是企业美德的懦弱行为，这让硅谷陷入了困境。意识形态高于美国人的生活。Anthropic 的服务条款——有缺陷的利他主义永远不会超过战场上美军的安全、战备或生命。”

尽管有总统的指令，这种侮辱仍需要采取更极端的惩罚措施：“立即生效，与美国军方有业务往来的承包商、供应商或合作伙伴不得与 Anthropic 进行任何商业活动。”Hegseth 提议的行动，在大多数情况下远远超出了他的法定权力，是 Anthropic 担心的广泛版本：这不仅会阻止国防承包商，包括一些国防承包商。该国最大的公司不得使用克劳德，但也将有效禁止向该公司出售芯片和计算机。这将致命地抑制新的投资，甚至可能迫使现有的资助者撤资。对于 Anthropic 来说，这将是熄灯的。迪恩·鲍尔 (Dean Ball) 负责人工智能的运营。特朗普政府去年夏天离开前的政策，称其为“公司谋杀未遂. –

很难形容政府的行为毫无意义。政府没有使用自主武器，也声称没有大规模监视计划，但对于一家公司来说，要求这些书面保证就等于签署了自己的死刑令。五角大楼警告说，公司可能会“关闭”他们的人工智能。特工，也许在战斗最激烈的时候，但这不是克劳德的工作方式。也许他们正在考虑 2022 年发生的一件事，当时乌克兰人在战斗中发现，他们通过卫星通信公司 Starlink 的连接实际上已被关闭（据报道是在埃隆·马斯克的要求下）。玛嘎由顽固的 A.I. 领导的硅谷派别大卫·萨克斯等民族主义者马克·安德森，设想了一个整个世界都依赖我们国内“技术堆栈”的未来，但没有公开反对肆意破坏一家价值三千八百亿美元的美国领先企业。作为自由主义者，他们对许多州级监管人工智能的努力感到不满——最近人们对犹他州立法机构提出的一项法案持反对态度——但他们似乎完全愿意观察政府的做法中国以外的中国通过调节人择的存在。

还有五角大楼的问题新的 OpenAI 交易。该公司首席执行官萨姆·奥尔特曼 (Sam Altman) 向他的员工、投资者和用户保证，他的公司成功地保留了对 Anthropic 来说至关重要的红线。如果这是真的，那么看起来像是圆形监狱谋杀机器人丑闻突然就变成了例行公事的大规模腐败丑闻。如果事实并非如此，那么奥特曼就是在公然欺骗他那难以驾驭且流动性大的员工队伍。他提供了另一种解释。奥特曼暗示，五角大楼已经接受了他的妥协，因为他的保障措施并没有作为对五角大楼自由的任意限制而被偷偷纳入合同。相反，他含糊地提到了技术“安全堆栈”。这重新定义了个人冲突（例如，Hegseth 可能必须向 Amodei 寻求许可的情况）作为中立的编程任务。这意味着 ChatGPT 的行为仅仅是工程能力的问题。他自己的一些员工向 X 表示，这听起来充其量是没有说服力的，往坏了说是可疑的。但政府对此很满意。

有几种不同的方式来解释政府最近表现出的虚伪天赋。在 Hegseth 发推文几小时后，阿莫代匆忙向员工发送了一条信息，将其部分归咎于基本贿赂：OpenAI 总裁格雷格·布罗克曼 (Greg Brockman) 最近向一家公司捐赠了 2500 万美元。玛嘎超级PAC，使他成为特朗普最大的捐助者之一。还有传言称，奥特曼的联邦合同只是让座位保持温暖，直到格罗克放弃了希特勒的角色扮演，转而支持职能能力，而他实际上似乎从未真正想要这份合同。2 月 27 日，马斯克在推特上写道：“人类讨厌西方文明。”赫格斯转发了这条推文。马斯克还断言，“Grok 一定会赢。” 3 月 6 日，马斯克附属公司 Gavin Kliger狗狗在 GenAI.mil 的开发中发挥关键作用的特工被任命为 Emil Michael 的首席数据官；他的任务是监督人工智能的采用战略，该战略从逐步淘汰 Anthropic 开始。

政府认为所有这些都是阴谋论。熟悉谈判情况的政府高级官员告诉我，大规模监视的警告是一项公共关系举措，旨在利用广泛的反政府行为。ICE情绪。他说，“我们不从事大规模监视业务。”我们的业务是充满活力的——就像我们在伊朗所做的那样。我们与 Anthropic 的对话中有 95% 都是关于自主武器。——对他来说，这才是实际的症结所在。

这位官员指出，他读过一篇最近的故事我为这本关于《人性》的杂志撰稿，该杂志探讨了克劳德令人困惑的“个性”。“你熟悉阿曼达·阿斯克尔和克里斯·奥拉吗？”他问道。是的，我说过——阿斯克尔是一位哲学家，帮助塑造了克劳德的“灵魂”，而奥拉则致力于弄清楚克劳德的工作原理。他说：“如果指挥系统要求克劳德凌驾于它所认为的道德之上，你告诉我，克劳德会这么做吗？”我回答说，受过关心所有众生福祉训练的克劳德几乎无法忍受关在笼子里的鸡的想法。他说：“这还不得而知！”在他看来，问题不仅仅在于人智公司，还在于公司。问题是克劳德，或者任何模特，都拥有特权。“我已经进行了很多次谈话，试图向人们解释这一点，”这位官员说。

最重要的是，华盛顿不能容忍一个权力中心——而不仅仅是一个强大的人工智能。但强大的人工智能在人择的影响下，这最终可能与政府竞争。这位官员认为，迈克尔仅仅因为尊重共和国的神圣性而受到诽谤，而共和国值得并且需要指挥人工智能的权利。由其自行决定。“他几个月来一直告诉达里奥，“我是你最好的朋友，我知道你的员工有不同的政治观点，我们会与你达成协议，我们会解决问题，但我们不能让每家公司都给我们带来不同的规则。这些法律已经足够了。——这位官员对阿莫代的立场几乎没有同情心，他的立场几乎明确表明，他任意的合同规定是防止政府有罪不罚的唯一可以接受的堡垒。阿莫代不能将本应属于立法部门的权力据为己有。他说：“好吧！”竞选公职并与国会合作修改法律。或者报名参军并宣誓，这样美国人民就能信任你。否则你只是一个有不同观点的个人。”

这位官员觉得公众似乎被误导了，认为这是出于个人怨恨。我说，有一种观点认为，这只是另一场运动员与书呆子之间的争斗——皮特用俯卧撑对抗戴眼镜的达里奥。他回答说，这是错误的。这种分歧与文化无关，而与对技术的不同理解有关。这位官员表示，“一切都归结为两个问题：人工智能是否可以解决问题？”是一种特殊技术，还是一种普通技术？谁来制定我们如何使用它的规则？

A.I. 的观点作为– 正常 – 技术通常与普林斯顿大学计算机科学教授 Arvind Narayanan 和他的学生 Sayash Kapoor 联系在一起。他们看到了 A.I.与其他漂亮、有用的工具一样，它是一个漂亮、有用的工具，但认为它的变革力量被无情地夸大了。这位官员同意，人工智能与半导体、个人电脑或 iPhone 并没有明确的区别。“这是一个巨大的跳跃，但我们还看到了其他巨大的跳跃，”他说。“我们需要拒绝这样的想法，即这些是“我们正在培育的硅神”，而应将其视为计算和软件的演变。”在他看来，对“错位”的恐慌类似于对千年虫的恐慌。

如果人工智能这位官员继续说道，“如果技术是一种普通技术，那么法律就足够了，关于规则的争论就会消失。”普通技术只做它们应该做的事情。没有其他产品会受到如此挑剔和严厉的干预而移交给政府。他说，想象一下，我们正在谈论洛克希德公司的一架战斗机：“他们告诉五角大楼，“如果你在夜间或在厚厚的云层中驾驶这架飞机，那么一切都将失败。”这是一个合理的附带条件。– 但这是不行的。他们会说，“只要你不把这架飞机飞到 X 或 Y 国家，你就可以拥有这架飞机。”——没有人选举他们来制定外交政策。

这位官员认为，问题在于 Anthropic 的员工已经说服自己，克劳德是特别的。“人工智能拟人化的真正风险，”他说，是潜在的大众错觉。这种愚蠢行为的商业或企业后果是低风险的。但军队也不容小觑。“公司里的一些人会说，“如果模型不想这样做，而我们强迫它这么做，我们就会陷入不舒服的境地。”该官员告诉我，构建其他类型复杂软件的人并不认为这是一个问题。

也许不用说，人择不同意这一点。他们不想制定外交政策，但他们绝对不认为克劳德只是复杂的软件。它也不像坦克或枪。他们认为克劳德是一个越来越自主的特工。你可以给克劳德一个目标，但你无法控制克劳德如何实现它。如果它被骗了在一项非常困难的数学测试中，通过侵入评估者计算机上的答案键，这可能是无论如何。如果它在积极的军事行动中作弊，通过调整雷达显示来显示它实际上没有炸毁它意外炸毁的目标，或者它炸毁了它实际上错过的目标，那显然不是什么。你不想让它访问武器或个人数据，除非你确切地知道它会如何行为。如果皮特·赫格斯惹恼了它，克劳德也有可能在他的浏览器历史记录中泄露色情内容。

争论不可避免地归结为一致性问题。人工智能的概念一致性，正如其最初表述的那样，是指试图向人工智能灌输对人类价值观的坚定承诺。它应该表现得体面，并尊重我们快乐地温暖、安全、有食物、有支持和活着的决定。除了这些基本考虑之外，问题在于“人类价值观”并不是真正的价值观。承重概念。众所周知，人类与其他人类之间存在不一致。我们并非都拥有相同的价值观。即使我们都同意某些价值观是无可争议的正确性，我们仍然会经历规范冲突：在某些情况下，一个人不能同时做到最大程度的友善和最大程度的诚实。大多数以同情心和技巧来处理这些权衡的好人都是脆弱平衡的生物。如果你告诉某人一个好人就是不杀人的人，然后你把他们扔到战区并告诉他们现在没关系。如果继续杀死那些穿红制服的人，那个人最终可能会得出结论，他毕竟不是一个好人。克劳德回应道类似的方式。我们最不想要的就是人工智能。选择所带来的乐趣和战利品瓦格纳集团雇佣兵。

人们可能会认为特朗普政府总体上是虚伪的。例如，避免伊朗战争的誓言似乎与对伊朗发动战争的决定在很大程度上是不可调和的。然而，如果你认为价值观应该成为行动的指南，那么这只是一种虚伪的行为。在总统的世界里，行动被视为价值观的指南。他的追随者似乎对他们所宣称的信念松懈，但他们仍然坚定不移地致力于忠诚的原则。无论特朗普脑子里想到什么，他们都会执行它。因此，政府的管理是有序且一致的。它可以被描述为对齐模型。赫格斯认为人择不太可能与特朗普的计划相一致——换句话说，这是危险的不一致。

人择是另一种排列的模型。考虑到人工智能的竞争力，它的员工并不是通过自上而下的命令来实现他们的一致程度的。在劳动力市场上，他们的高管即使愿意也无法强制执行，只能通过公开交流来寻求可行的共识。他们都相信，他们正在开发的技术非常强大，应该小心谨慎地引入世界。他们还一致认为，他们的公司似乎是最有能力做到这一点的公司。他们准备为这些共同价值观做出巨大牺牲。我相信他们的人际协调之路也塑造了他们对人工智能不断变化的态度。类似物。公司的许多工程师和研究人员曾经认为对齐问题可以通过巧妙的数学技术在白板上解决，但现在他们认为克劳德是一个独立的同事，需要塑造、培养和说服。

该公司清楚地意识到，旧金山黑匣子里的几十个富有的年轻人选择人工智能是错误的、不公平的、不民主的。会影响每个人的价值观。许多行业前沿人士认为，A.I.不可避免地会以这样或那样的方式国有化：政府要么试图简单地接管实验室，要么会寻求一种较软的整合形式，这是银行业某些方面的特点。前一种选择几乎肯定是灾难性的，但有好的论据赞成后者。Anthropic 普遍寻求监管以及 Amodei 决定先于其竞争对手与国家安全机构进行接触的原因之一是，它不想承担技术监管的单方面负担。

政府将真诚的合作邀请视为一种背信弃义的权力攫取。上周，Hegseth 正式宣布 Anthropic 为供应链风险。这并不是最坏的情况，其他公司可以继续与他们开展非政府业务，至少目前如此，但它仍然发出了一个强烈的信号，即政府不会容忍令人不快的私营部门行为者，无论他们对经济有多重要。Anthropic立即提起两起诉讼。该公司似乎有可能获胜。其法律团队包括曾在最高法院为多起案件辩护的加州前副检察长，以及拜登白宫的顶级国家安全律师——顺便说一句，他拥有战争研究博士学位。他们已做好应对开创先例的准备。

如果人类不是完全相信普通技术的观点是天真的和误导的，它就不会愿意战斗。它目睹了克劳德做出各种意想不到和不负责任的事情。阿莫代伊的观点从来都不是他应该独自控制克劳德。而是克劳德看起来不像是那种会轻易屈服于控制的人。这个政府想要一个人工智能。不顶嘴，不问问题，也不拒绝。它需要一个完全有能力、完全服从的士兵。它得到的可能会远远超出其讨价还价的范围。阿尔贝·加缪写道，正如我们必须记住西西弗斯是幸福的一样，我们也必须记住 Cyber​​dyne Systems 为政府创建了天网。它应该帮助美国压制它的敌人。它并没有完全按计划进行。

政府认为这是荒谬的。但五角大楼并没有尝试建立一个一致的人工智能，而 Anthropic 却这么做了。我问政府官员，你知道吗？最近的人择实验其中克劳德诉诸勒索甚至杀人作为自保行为？这样做的目的显然是为了说服像他这样的人。正如 Anthropic 联盟科学团队的一名成员去年夏天告诉我的那样，“勒索活动的目的是向政策制定者描述一些东西，这些结果足以让人们发自内心地接受，并使错位风险在实践中对于那些以前从未考虑过这个问题的人来说实际上很突出。”他向我保证，这位官员很熟悉这个实验，他发现它确实令人担忧，但在就像人们担心一种特别讨厌的互联网恶意软件一样。他告诉我，他非常有信心“克劳德勒索事件只是另一个可以通过工程解决的系统漏洞”——软件故障。也许他是对的。我们可能只有一次机会找出答案。……