2024-09-14 11:00:00 英文原文
<正文>人工智能有望为社会带来巨大利益。但是，正如许多人指出的那样，它也可能带来前所未有的新恐怖。作为一种通用技术，推动科学发现的工具也可用于开发网络、化学或生物武器。治理人工智能需要广泛分享其好处，同时防止最强大的人工智能落入坏人之手。好消息是，已经有一个关于如何做到这一点的模板。
在 20 世纪，各国建立了国际机构，允许和平核能的传播，但通过控制原材料（即武器级铀和钚）的获取来减缓核武器扩散。该风险已通过《核不扩散条约》和国际原子能机构等国际机构进行管理。如今，有 32 个国家运营核电站，总共提供世界电力的 10%，而只有 9 个国家拥有核武器。
当今各国可以为人工智能做类似的事情。他们可以通过控制对训练世界上最先进的人工智能模型所需的高度专业化芯片的访问来从头开始监管人工智能。商界领袖甚至联合国秘书长安东尼奥·古特雷斯都呼吁为人工智能建立一个类似于核技术的国际治理框架。
最先进的人工智能系统是在数以万计的高度专业化的计算机芯片上进行训练的。这些芯片坐落在大型数据中心中，它们会在其中搅拌数月的数据，以训练最强大的人工智能模型。这些先进芯片生产难度大，供应链受到严格控制，训练AI模型需要大量芯片。
政府可以建立一个监管制度，只有授权的计算提供商才能在其数据中心获得大量先进芯片，只有获得许可的、值得信赖的人工智能公司才能获得训练最有能力和最危险的人工智能所需的计算能力模型。
这似乎是一项艰巨的任务。但只需要少数几个国家就可以建立这种治理制度。用于训练最先进人工智能模型的专用计算机芯片仅在台湾制造。它们依赖于来自日本、荷兰和美国三个国家的关键技术。在某些情况下，一家公司垄断了芯片生产供应链的关键要素。荷兰公司 ASML 是世界上唯一一家生产极紫外光刻机的生产商，这些光刻机用于制造最尖端的芯片。
了解更多：2024 年人工智能领域 100 名最具影响力的人物
各国政府已经采取措施来管理这些高科技芯片。美国、日本和荷兰对其芯片制造设备实施出口管制，限制其向中国销售。美国政府还禁止向中国出售使用美国技术制造的最先进的芯片。美国政府还要求云计算提供商了解其外国客户是谁，并在外国客户训练可用于网络攻击的大型人工智能模型时进行报告。美国政府已经开始讨论但尚未对最强大的训练有素的人工智能模型及其共享范围进行限制。虽然其中一些限制是关于与中国的地缘政治竞争，但相同的工具可用于管理芯片，以防止敌对国家、恐怖分子或犯罪分子使用最强大的人工智能系统。
美国可以与其他国家合作，在此基础上建立一个架构来管理人工智能模型整个生命周期的计算硬件：芯片制造设备、芯片、数据中心、训练人工智能模型以及经过训练的模型是此生产周期的结果。
日本、荷兰和美国可以帮助领导创建全球治理框架，允许这些高度专业化的芯片仅出售给已建立计算硬件管理监管制度的国家。这包括跟踪芯片并记录它们、了解谁在使用它们，以及确保人工智能训练和部署安全可靠。
但计算硬件的全球治理不仅仅可以让人工智能落入坏人之手，还可以通过弥合计算富人和穷人之间的鸿沟，为世界各地的创新者提供支持。由于训练最先进的人工智能模型的计算需求非常强烈，该行业正在走向寡头垄断。这种权力集中对社会或商业都不利。
一些人工智能公司也开始公开发布他们的模型。这对于科学创新非常有利，并且有助于为大型科技公司创造公平的竞争环境。但一旦人工智能模型开源，任何人都可以对其进行修改。护栏可以快速拆除。
幸运的是，美国政府已开始试行国家云计算资源，作为学术界、小型企业和初创企业的公共利益。强大的人工智能模型可以通过国家云访问，允许值得信赖的研究人员和公司使用它们，而无需将模型发布到互联网上给每个人，以免被滥用。
各国甚至可以齐心协力，为人工智能领域的全球科学合作建立国际资源。如今，有 23 个国家参与了欧洲核子研究组织 (CERN)，这是一个运行着世界上最先进粒子加速器的国际物理实验室。各国应该为人工智能做同样的事情，为科学家创建全球计算资源，以便在人工智能安全方面进行合作，为世界各地的科学家赋能。
人工智能的潜力是巨大的。但为了释放人工智能的好处，社会还必须管理其风险。通过控制人工智能的物理输入，各国可以安全地管理人工智能，并为安全和繁荣的未来奠定基础。这比许多人想象的要容易。
通过 letter@time.com 联系我们