11月1日，路透社报道去年，中国研究人员，包括中国人民解放军 (PLA) 下属的研究人员，将 Meta 的 Llama 模型之一用于军事目的。这一消息引起了包括美国政策制定者在内的许多人的快速而强烈的反应，呼吁进一步限制开源人工智能。众议院外交事务委员会主席迈克尔·麦考尔，说最近提出的强制执行法案“一项可以有效禁止美国人工智能开发商发布开放权重模型的法案对于‘防止美国人工智能落入中国之手’是必要的。”
与 OpenAI 的 ChatGPT 或 Anthropic 的 Claude 等模型不同，骆驼家族语言模型是 –开放重量，——这意味着它们的权重（定义其功能的数字）可供任何人免费在线下载。其他知名的开源人工智能提供商包括米斯特拉尔，总部位于法国，以及鹘，在阿拉伯联合酋长国开发。多年来，争论一直很激烈在战略上好处和风险两种人工智能生态系统：一种主要基于专有和闭源人工智能系统，另一种支持开源。
虽然公众对开放权重模型的访问确实代表了控制、安全性和创新之间的真正权衡（正如 Llama 的例子所强调的那样），但情况更为复杂。开源模型的批评者未能认识到这些模型的关键作用。模型将在确保美国安全方面发挥作用担保权益从长远来看。政策制定者不应该关注开源人工智能的风险，而应该问世界是否应该依赖美国开发的人工智能，或者来自中国的能力日益增强的开源模型。
开源人工智能的风险
那些对开源人工智能持怀疑态度的人争论减轻人工智能负面影响和安全风险的最佳方法是制定新法规并限制其全球分布。威胁行为者可以修改开放模型并删除关键安全功能，产生新的安全风险。此外，由于开放模型可以运行任何人的硬件，原始开发人员无法以封闭模型提供者的方式监控其对危险或有害应用程序的使用能（至少在理论上）。正是出于这个原因，闭源人工智能公司正在投入大量资源防止盗窃或出口他们的模型权重。
从这个角度来看，开源被视为将美国前沿人工智能技术免费提供给中国和其他竞争对手的一种方式。相反，人们经常认为美国应该通过支持大型闭源人工智能开发人员的生态系统来引领人工智能，限制人工智能出口，并强加附加规定对人工智能开发者来说建造或使用开源模型。
如果这些闭源模型的内部运作向公众隐瞒，据称它们可能会更安全——尽管中国公司可以通过以下方式轻松窃取人工智能模型数据：处理他们的输出（“模型蒸馏”）。事实上，中国一些最有能力的模式，例如阿里巴巴奎文,继续告诉用户那它是 Claude，一个由旧金山 Anthropic 构建的闭源模型，并且包括 OpenAI 在内的公司已经开始阻止访问他们在中国的模型可以降低这种风险。然而，建立在这些原则基础上的人工智能安全政策很快就会发现有必要阻止美国开发的人工智能进入世界，甚至最终进入任何人。
为什么开源人工智能仍然很重要
相比之下，开源人工智能的支持者指出，数十年的研究表明，大规模且有形的好处伴随着开源生态系统，从更大的创新到提高安全性。公开发布的软件是美国目前在全球技术生态系统中占据主导地位的基石，几乎涵盖所有数字服务（包括每个应用程序和网站）通过开源软件以某种方式启用。开放权重人工智能将与开源软件相关的许多好处转化为人工智能世界。
由于培训尖端人工智能的成本很高，个人、研究人员和企业都发现，在彼此的工作基础上进行构建更加高效：这可以降低成本、鼓励创新并提高安全性。开放模型的广泛应用已经创建了新的竞争生态系统，使参与者能够在全球舞台上竞争。这是国家电信和信息管理局（NTIA）最近发布的综合报告同样承认这些好处，导致他们发布拥抱开放的政策建议。也为了国家安全，研究建议强大的开源人工智能生态系统将通过增加“供应商多样性、持续性、网络安全和创新”，使美国国防部 (DoD) 和美国国家安全受益。
然而，也许更重要的是，对于许多国家来说，开源人工智能是参与该技术的唯一机会，因为其开发和培训成本过高。随着人工智能日益融入世界数字基础设施，开源人工智能的重要性也将日益增长，因为它很可能成为推动人工智能全球传播和采用的关键组成部分。能够开发这些积木的国家将是得到奖励具有战略安全优势。
公开对抗中国
中国是认识到这一点的国家。面对美国带头对其技术生态系统施加越来越多的限制，中国已采取行动与美国技术脱钩，并大力投资开源开发整个科技领域，从筹码和半导体操作系统到人工智能模型。中国人工智能发展非但没有落后，反而进步很快，部分模型跻身全球前十。LMSYS 聊天机器人竞技场，一个流行的人工智能模型评估基准。中国致力于成为全球人工智能提供者，在世界许多国家，中国的开源人工智能模型的使用量不断增长，尤其是在南半球国家。中国的法规似乎也广泛支持开源人工智能开发。无论美国及其盟国采取何种政策，中国都明确表明了在全球开源人工智能领域竞争并获胜的意图。
在中国拥有众多国产车型的当下匹配并且，在某些情况下，超过美国公司开发和发布的模型，他们对 Llama 1 的使用不应被解释为威胁。该模型于 2023 年初推出——按照人工智能标准来看，它已经过时了。虽然担心中国使用美国开源人工智能模型是可以理解的，但美国政策制定者不要反应过度也很重要。限制美国开源人工智能在全球市场竞争的能力将对该国的国家安全造成灾难性的影响，限制美国科技行业的创新潜力，并将全球人工智能市场的很大一部分拱手让给美国。免费的对手。