联邦政府正在大力发展人工智能。我们的报告提供了三个警示故事。
作者:Renee Dudley
作为 ProPublica 的网络安全记者,我的大部分工作过去两年的重点是联邦政府及其 IT 承包商(如微软)如何应对重大技术转型。现在每天的新闻都是人工智能。
这项新兴技术对每个人都有影响:家庭用户、企业和联邦政府都在争先恐后地使用它。唐纳德·特朗普总统和他的内阁表示,人工智能将改变国家,让我们更加繁荣、高效和安全——只要我们能够足够快地采用它。
但这种信息并不新鲜。十五年前,当美国大力推进云计算技术革命时,巴拉克·奥巴马(Barack Obama)总统的政府使用了几乎相同的语言。
我研究了过去二十年来联邦政府如何处理(以及处理不当)这一转变,随着政策制定者鼓励使用人工智能和联邦机构采用该技术,我的报告提供了一些警示故事和宝贵的教训。
第 1 课:天下没有免费的午餐
然后:2020 年代初,一系列与俄罗斯、中国和伊朗有关的网络攻击让联邦政府感到震惊。拜登政府呼吁大型科技公司帮助美国加强防御。微软首席执行官萨提亚·纳德拉 (Satya Nadella) 对此作出回应承诺给予政府1.5 亿美元的技术服务帮助升级其数字安全。它还为政府客户提供“免费”安全升级。
现在:去年,特朗普政府宣布与科技公司达成一系列协议,旨在帮助联邦机构“购买企业人工智能工具”以政府友好的定价– 各机构可以以 1 美元的价格使用 OpenAI 的 ChatGPT。Google 的 Gemini 售价 47 美分。xAI 的 Grok 售价 42 美分。政府希望低成本定价能够让联邦团队更容易获得强大的人工智能能力,从而提高任务交付和运营效率。
要点:警惕免费赠品。我们对微软看似简单的承诺的调查揭示了一个更复杂、以利润为导向的议程。安装升级后,联邦客户将被有效锁定,因为在免费试用后转向竞争对手将是麻烦且成本高昂的。到那时,客户别无选择,只能支付更高的订阅费。该计划奏效了:一位前微软销售人员告诉我,“它的成功超出了我们任何人的想象。”在回答有关承诺的问题时,微软表示,其“在此期间的唯一目标是支持政府提出的一项紧急要求,以加强联邦机构的安全态势,这些机构不断成为老练的民族国家威胁行为者的目标。”
如今想要以折扣价购买人工智能工具的机构必须考虑成本未来可能会如何激增。美国总务管理局警告说,如果没有适当的监控和管理控制,人工智能的使用成本可能会迅速增长,并建议各机构“设置使用限制并定期审查消耗报告”。
教训 2:监督计划的有效性取决于其资源
然后:在奥巴马时代,联邦政府将其敏感信息和计算需求转移到私营公司拥有和运营的数据中心。认识到潜在风险后,美国政府于 2011 年制定了联邦风险和授权管理计划 (FedRAMP),以帮助确保鼓励美国机构使用的云计算服务的安全性。
但在我最近对该计划的调查,我发现它无法与 Microsoft 匹敌,在五年多的时间里,FedRAMP 团队一直在寻求该计划的批准,以用于名为 GCC High 的主要云产品,这实际上削弱了 FedRAMP 团队的实力。尽管对其网络安全持严重保留态度,FedRAMP 最终还是批准了该产品,部分原因是该产品缺乏继续运行的资源。在回答问题时,微软告诉我:“我们坚持我们的产品和我们所采取的全面措施,以确保所有 FedRAMP 授权的产品满足必要的安全和合规性要求。”
现在:如今,总务管理局内部的这个小前哨机构用于监督政府所依赖的云技术(包括人工智能)的资源甚至更少。FedRAMP 表示,它现在的运营“支持人员绝对最少”,并且“客户服务有限”。该计划是特朗普政府政府效率部的早期目标。
要点:FedRAMP,2024 年白宫备忘录前员工告诉我,云提供商所说的“必须是一个可以分析和验证云提供商的安全声明的专家程序”,现在只不过是科技行业的橡皮图章而已。随着联邦机构采用利用大量敏感信息的人工智能工具,这种精简对联邦网络安全的影响是深远的。GSA 发言人为该计划进行了辩护,并表示 FedRAMP 现在“在加强监督和问责机制的情况下运作。”
第 3 课:“独立”评论只是如此独立
然后:政府长期以来一直依赖所谓的第三方评估机构来验证微软和谷歌等云服务提供商提出的安全声明。理论上,这些公司应该是独立专家,就产品是否符合联邦标准向 FedRAMP 提供建议。但实际上,他们的独立性有一个星号:他们的报酬是由他们所评估的公司支付的。
我最近的调查发现,这种设置造成了固有的利益冲突。据一位前 FedRAMP 审核员称,就 Microsoft 的 GCC High 而言,两名评估员尽管无法对其进行全面审查,但还是推荐了该产品。其中一家公司没有回应我的问题,另一家则否认了这一说法。
我们发现,FedRAMP 非常清楚云公司及其评估人员之间的财务安排如何扭曲有关网络安全问题的官方调查结果。该计划甚至创建了一个“后台渠道”,鼓励评估人员分享他们可能不会在官方报告中提出的担忧,因为担心激怒科技客户并失去业务。
现在:正如一位前 GSA 官员所说,随着 FedRAMP 沦为“文件推手”,这些第三方评估公司在审查过程中变得更加重要。在回答 ProPublica 的问题时,GSA 表示 FedRAMP 系统“不会对满足道德和合同绩效期望的专业审计师造成固有的利益冲突”。它没有回答有关该计划秘密渠道的问题。
要点:钟摆基本上已经回到了 FedRAMP 之前的时代,当时每个联邦机构都单独负责审查其使用的产品。GSA 告诉我,FedRAMP 的工作是“确保各机构拥有足够的信息来做出这些风险决策”。问题在于,各机构往往缺乏进行彻底审查的人员和资源,这意味着整个系统依赖于云公司的声明以及他们付费评估的第三方公司的评估。