Anthropic 周一起诉国防部和其他联邦机构,指控特朗普政府决定将这家人工智能公司标记为“供应链风险”。
随着白宫试图推动人工智能在政府中的采用,这起诉讼是五角大楼与世界上最著名的人工智能公司之一之间持续僵局的最新进展。
供应链风险指定通常授予与外国对手有关联的公司,它会影响 Anthropic 如何与与国防部合作的公司开展业务。
Anthropic 声称,将其归类为供应链风险,以及特朗普政府要求联邦机构停止使用该公司技术的指令,在法律上是不健全的。该公司在法律文件中称这些举措“史无前例且非法”。
“寻求司法审查不会改变我们利用人工智能保护国家安全的长期承诺,但这是保护我们的业务、客户和合作伙伴的必要步骤,”Anthropic 发言人在一份声明中表示。“我们将继续寻求一切解决途径,包括与政府对话。”
五角大楼以部门政策为由拒绝对诉讼发表评论。白宫发言人莉兹·休斯顿表示,总统“永远不会允许激进的左翼、觉醒的公司”来决定军队的运作方式。
休斯顿在一份声明中表示,“总统和战争部长正在确保美国勇敢的战士拥有取得成功所需的适当工具,并将保证他们永远不会被任何大型科技领导人的意识形态绑架。”“在特朗普政府的领导下,我们的军队将遵守美国宪法,而不是任何觉醒的人工智能公司的服务条款。”
五角大楼在与 Anthropic 更新合同的谈判因两条红线破裂后发布了供应链风险名称,Anthropic 希望国防部同意这两条红线:其人工智能工具不会用于对美国公民的大规模监视,并且不会用于自主武器。
然而,五角大楼希望将 Anthropic 的人工智能用于“所有合法目的”,并表示他们不能允许私营公司决定如何在国家安全紧急情况下使用其工具。五角大楼此前声称,它对使用人工智能对美国公民和自主武器进行大规模监视不感兴趣。
特朗普政府2月27日命令联邦机构和军事承包商在 Anthropic 拒绝让五角大楼不受限制地使用其技术后,该公司停止了与 Anthropic 的业务。同一天,国防部长皮特·赫格斯人类说将被标记为供应链风险,并补充说“与美国军方有业务往来的承包商、供应商或合作伙伴不得与 Anthropic 进行任何商业活动。”
Anthropic 在其文件中声称,政府正在对该公司使用受第一修正案保护的言论进行报复。它还认为,特朗普无权指示联邦机构停止使用 Anthropic 的技术,并且该公司没有获得充分的正当程序。
该公司正在寻求禁令救济,声称“当前和未来与私人方的合同也存在疑问”,并且 – 数百个 由于特朗普政府的行为,数百万美元面临危险。
“除了这些直接的经济损害之外,Anthropic 的声誉和第一修正案的核心自由也受到了攻击,”文件中写道。“如果没有司法救济,这些伤害只会在未来几周和几个月内加剧。”
Anthropic 首席执行官达里奥·阿莫代说收到的正式信函将其指定为供应链风险表示其客户将仅被限制在与五角大楼合同直接相关的工作中使用克劳德。
Anthropic 此前表示,计划在法庭上质疑这一指定,并补充说,这“为任何与政府谈判的美国公司树立了一个危险的先例。”
OpenAI 和 Google DeepMind 的数十名科学家和研究人员(可以说是该公司最大的两个竞争对手)提交了法庭之友陈述周一以个人身份支持人类。该组织认为,供应链风险指定可能会损害美国在该行业的竞争力,并阻碍公众对人工智能风险和收益的讨论。他们还表示,Anthropic 的红线引起了合理的担忧。
“在存在法律框架来遏制部署前沿人工智能系统的风险之前,人工智能开发人员的道德承诺以及他们公开捍卫这些承诺的意愿不会成为良好治理或创新的障碍,”他们在简报中写道。——他们是对此的贡献。法院应该这么说。”
阿莫代伊会见赫格斯2月24日,但两人未能达成协议。在一个博客文章阿莫代在解释该公司拒绝五角大楼提议的决定时表示,人工智能目前无法可靠、安全地用于大规模监视和自主武器等情况。他还表示,该公司一直在与五角大楼“进行富有成效的对话”,讨论如何在遵守红线的同时进行合作,以及如何在未达成协议的情况下确保顺利过渡。
特朗普在2月27日的讲话中表示真相社会帖子Anthropic 犯了一个“灾难性的错误”,并指责该公司试图决定军队的运作方式。
开放人工智能与五角大楼达成协议就在特朗普政府发布命令几个小时后。
人类的形象在冲突中才得以提升。它的克劳德人工智能应用程序在 iPhone 的 App Store 中超越了 OpenAI 的 ChatGPT在五角大楼表示将终止与 Anthropic 的合同的第二天,这是第一次。该公司还于3月5日表示,每天有超过一百万人注册克劳德。
美国有线电视新闻网 (CNN) 的哈达斯·戈尔德 (Hadas Gold) 和海莉·布里茨基 (Haley Britzky) 对本报告做出了贡献。
这个故事已更新了更多内容。