在美国限制外国访问后,Anthropic 将禁用其最先进的人工智能模型
Anthropic 表示,在美国政府以国家安全为由下令暂停外国人使用其最先进的人工智能模型后,该公司将“突然禁用”所有用户最先进的人工智能模型。
Anthropic 在一份声明中表示,该公司收到了暂停所有外国人访问《神鬼寓言 5》和《神话 5》的出口管制指令,但没有提供国家安全问题的具体细节。
Anthropic 表示,据 Anthropic 的了解,政府认为有一种绕过或“越狱”的方法,可以防止《神鬼寓言 5》被用于识别软件漏洞。
该命令的发布恰逢之前双方之间的争端特朗普政府美国政府部分官员和即将上市的 Anthropic 显示出宽松的迹象。
今年,Anthropic 拒绝允许美国军方将其人工智能模型用于国内监视和完全自主武器系统,因此与政府的关系破裂。政府的回应是将 Anthropic 列入供应链黑名单,该名单将于今年晚些时候生效。
这一行动也标志着美国阻止外国对手人工智能能力的努力的重大升级。多年来,美国的出口管制一直集中在为人工智能提供动力的芯片和工具上,而不是限制外国获取人工智能本身。
Anthropic 表示,政府只向其提供了“潜在的狭隘、非普遍越狱的口头证据”。
该公司表示,“我们不认为,小范围潜在越狱的发现应该成为召回已部署到数亿人的商业模式的理由。”
政府指令和 Anthropic 的回应突显了人工智能开发人员和监管机构之间在如何评估所谓“越狱”或用于绕过模型保护措施的方法所带来的风险方面日益紧张。
就在周三,Anthropic 还呼吁美国加强对人工智能的监督,包括阻止具有不可接受风险的模型的能力。然而,它表示,政府周五的行动没有遵循公平和基于事实的监管原则。
五角大楼首席信息官克尔斯滕·戴维斯 (Kirsten Davies) 在 X 上的一篇帖子中表示,国防部支持优先考虑国家安全。
– 有些事情比收入周期、点击诱饵和首次公开募股前的估值更重要。美国第一。总是如此,”戴维斯说。
Anthropic 上个月秘密申请美国 IPO,在进入公开市场的竞争中领先于竞争对手 OpenAI。
本周早些时候,Anthropic 推出了一款名为 Claude Fable 5 的人工智能模型,代表了一种新的能力,被称为“神话级”。Anthropic 表示,该模型有一些限制措施,禁止其在网络安全等风险领域使用,一些用户抱怨这些领域“过于宽泛”。
专家表示,神话模型如果落入坏人之手,可能会极大地加速复杂的网络攻击,特别是在银行业等依赖复杂、相互关联且往往已有数十年历史的技术系统的行业。
Anthropic 表示,在《神鬼寓言》发布之前,它已经与美国政府等机构就安全问题进行了合作,竞争对手人工智能提供商的模型也显示出类似的发现代码中小错误的能力。
– 该命令的最终影响是我们必须突然禁用所有客户的《神鬼寓言 5》和《神话 5》,以确保合规性。对所有其他 Anthropic 模型的访问不会受到影响。”Anthropic 表示。
Anthropic 表示,它认为存在“误解”,并且正在努力尽快恢复对模型的访问。
一名美国官员证实,商务部已发布出口管制指令,暂停外国人访问《神鬼寓言 5》和《神话 5》。