- 出于对网络安全漏洞的国家安全担忧,美国政府命令 Anthropic 暂停外国人访问其最强大的人工智能模型。
- Anthropic 遵守了该指令,但对该指令提出异议,认为该标准将停止整个人工智能行业的所有新前沿模型部署。
- 该公司认为,政府在得知一种越狱技术后采取了行动,该技术利用了其他模型也可以发现的相对较小的漏洞。
人工智能生成的摘要由 CNN 编辑审核。
Anthropic 在一份声明中表示,在美国政府命令其暂停外国人的所有使用后,人工智能公司 Anthropic 已禁止客户访问其最强大的系统。声明周五晚上。此举是特朗普政府针对该公司采取的一系列不利行动中的最新一起。
针对 Anthropic 的 Mythos 5 和 Fable 5 模型的广泛指令是政府为应对人工智能模型的先进功能而采取的影响最深远的行动之一。
Anthropic 表示,美国政府以“国家安全”问题为由向其发出了该指令。
该公司表示,政府没有提供有关国家安全问题的具体细节,但它相信政府已经“意识到”《神鬼寓言 5》的“越狱”方法,即绕过其内部安全护栏的方法。
“我们审查了这种特定技术的演示,该技术用于识别少量先前已知的小漏洞,”Anthropic 在其声明中表示。“这些漏洞看起来都相对简单,我们发现其他公开可用的模型也能够发现它们,而无需绕过。”
Anthropic 表示,它已为其最新型号制定了多项保障措施,以“大大降低它们被滥用于网络安全相关任务的可能性”,并指出他们已经收到了用户关于这些防护措施过于严格的投诉。Anthropic 还指出,它已与美国政府合作实施《神鬼寓言》的“红队”保障措施,并且没有任何模型能够完全抵御任何越狱。
Anthropic 表示,虽然他们遵守该指令并取消了每个人对模型的访问权限,但“我们不认为,小范围潜在越狱的发现应该成为召回部署到数亿人的商业模型的理由。”
“如果这个标准在整个行业得到应用,我们相信它将基本上停止所有前沿模型提供商的所有新模型部署,”该公司补充道。
这一限制意味着许多为 Anthropic 工作的外国人将无法接触这些模型。
发布该限制的商务部没有立即回应置评请求。Axios 报告称,政府指令将要求 Anthropic 获得许可证——才能出口、再出口或国内转让这些 Anthropic 模型。
Anthropic 的最新模型 Mythos 以其能力吓坏了美国政府和华尔街,专家称其可以以前所未有的速度利用网络安全漏洞。该模型被认为非常强大,Anthropic 最初将其发布限制为一群Anthropic 上周发布了《神鬼寓言 5》,作为一般安全使用的 Mythos 版本。
该模型还帮助激发了特朗普政府最近的政策行政命令人工智能,要求公司在向其他合作伙伴提供访问权限之前的 30 天内自愿与政府分享被认为具有先进网络功能的新模型。
一位了解该行政命令早期讨论情况的消息人士表示,该命令曾提出过禁止外国人参与此类模型的想法,但该想法从未进入草案。
政府与 Anthropic 的关系很复杂。今年早些时候,特朗普政府将该公司列入黑名单,宣布其在军事交易中存在“供应链风险”,因为 Anthropic 坚持要求五角大楼为政府在战争中使用人工智能设置某些安全护栏。被起诉政府认为这一行为是“史无前例且非法的”,并提前至少提出了一项赢在正在进行的案件中。
尽管唐纳德·特朗普总统在指定所有联邦政府停止与 Anthropic 产品合作时发出指示,但白宫仍然坚持近距离接触与该公司合作,联邦政府的一些部门已经找到了解决方法继续访问Anthropic 的模型,尤其是在 Mythos 发布之后。
知情人士告诉 CNN,Anthropic 还深入参与了最新行政命令的起草工作,其高管已受邀前往白宫参加签字仪式,但最终在最后一刻被取消。
