世界各地的数十个国家正在加紧立法规范人工智能的设计和使用。欧盟率先通过了一项全面的人工智能法案。其严格的限制将在未来两年内生效。许多其他国家也不甘落后。全球企业参与者已经对由此产生的监管碎片化表示遗憾,认为这将剥夺用户有价值的服务,或者至少增加最终消费者必须支付的成本。他们没有错。监管多样性确实会导致更高的交易成本。但他们代表世界消费者发出的听起来天真无邪的警告不仅有点自私。它在分析上也存在缺陷。
如果人工智能是一种变革性技术,将产生巨大的意外之财并重新配置我们的经济,甚至我们所知道的社会,你就会明白为什么各级监管机构都希望从中分一杯羹。但对于许多国家,特别是经济实力快速增长的国家来说,过去三十年对互联网的监管方式具有警示意义。
最初,互联网的核心治理任务是管理 IP 号码和域名(互联网名称空间)掌握在美国人手中。当互联网成为一种全球现象时,这种情况就变得站不住脚了。但这些任务并未由联合国或国际电信联盟的下属单位接管。相反,这一角色是由互联网名称与数字地址分配机构 (ICANN) 承担的,这是一家总部位于加州的专门非营利组织,随后对其内部治理制度进行了多次根本性变革。金砖国家成员(其中许多来自南半球)和其他成员指责美国创建 ICANN 是为了巩固其在全球互联网核心的权力。
在有关该问题的一系列国际外交聚会之一上,欧盟试图让 ICANN 致力于其治理中的基本权利。但美国与中国和俄罗斯联手否决了这一提议。为了解释美国的反对意见,我们需要从现实主义的权力视角来看待互联网治理:互联网对美国利益来说意义重大。在 ICANN 保留名称空间管理,不受任何实质性限制,可确保美国持续发挥影响力。
随着当今人工智能取代互联网的重要性,各国都敏锐地意识到,现在是确保美国安全的时候了。通过人工智能监督的权力和影响力。结果并不是一场简单的监管竞赛。更复杂的动态正在发挥作用。例如,中国对联合国人工智能治理的支持被描述为试图限制西方目前在人工智能技术和人工智能监管方面的主导地位。相反,华盛顿不愿让国际组织参与进来,可能是为了将我们这个时代的关键技术的治理留在国内。
由于人工智能核心功能的工作方式和由此产生的商业景观。训练人工智能需要大量数据,并且获得足够的训练数据受到严重限制。训练人工智能可以通过可免费在线访问的数据来完成,但这可能会带来复杂的版权和隐私诉讼的风险。或者它可以在少数非常大的数字平台公司中进行,这些公司通过其占主导地位的数字服务,吸收足够多的训练数据。
例如,Google 的母公司 Alphabet 可以自己做人工智能训练,得益于谷歌每天收集的数十亿个数据点。同样,Meta 可以通过从 Facebook、Instagram 和 WhatsApp 收集的数据来训练其模型。与此同时,微软通过价值数十亿美元的投资与 OpenAI 合作。Alphabet、Meta、微软都是美国公司。由于缺乏数据访问而无法训练人工智能模型的公司位于其他地方:欧洲和南半球,也许中国除外。这导致人工智能提供商的分布非常不均匀,其中大多数要么是直接拥有的,要么与大型平台公司有密切的联系。
这种不均匀性会转化为类似的扭曲的经济学。世界各地的许多企业和组织需要并且希望使用人工智能,但本身缺乏人工智能模型。相反,他们从少数大型提供商那里购买人工智能模型的使用。其结果是,人工智能的生产者大多位于美国西海岸,而人工智能的用户则分散在世界各地。
这也反映了互联网的情况,只有少数美国平台提供商以及全球数十亿用户。但与用户生成的内容相对多样化的社交媒体不同,这种中心化的人工智能服务不仅在美国西海岸积累了大部分利润,而且更重要的是,基于人工智能模型为数十亿用户提供了人工智能生成的答案。接受过关于缺乏全球多样性的数据的培训。或者,坦白地说:西海岸产生的答案塑造了全球决策。
这意味着人工智能治理问题可以说比互联网治理问题重要得多。由此产生的权力争夺比国家之间的竞争要复杂得多,因为它们内部的组织和机构也在争夺影响力。
一些国家已经成立了专门的人工智能治理机构,跨越传统的监管界限,以促进人工智能的推广以及人工智能法律的执行。但这并没有消除现有机构所发挥的作用,从反垄断监管机构(例如美国联邦贸易委员会)担心人工智能训练数据的集中,到数据保护委员会担心所使用的个人信息的隐私。训练人工智能,更不用说法院被要求裁决对使用公开访问但大部分受版权保护的材料训练的人工智能模型的知识产权主张。新的监管和执法机构与现有机构竞争;来自一个学科领域的机构与其他学科领域的机构。再加上已经提到的超国家和国内层面,你就会感受到目前正在进行的人工智能监管复杂的监管土地争夺。
重要的是,认识到这种动态并不需要假设任何这些监管机构行为不理性(尽管肯定有些人可能会这样做);当个体监管者采取行动增强其权力时,它就会展开——对需要监管的新现象的出现做出完全理性的反应。
从现实主义的权力角度审视人工智能监管有助于理解多种方法和机构已订婚的。这种情况不太可能很快改变,但我们看到的监管多样性是必要的还是令人讨厌的?
监管多样性无疑代价高昂。维持众多监管机构对社会来说代价高昂,如果这些机构卷入地盘争夺战,情况就更是如此。更糟糕的是,每当公司和个人的活动跨越管辖范围时(这种情况在网上总是发生),他们就必须遵守大量规则。由此产生的交易成本效率低下,导致价格上涨,并可能导致服务质量下降。相比之下,同质的监管制度使公司能够获得规模经济和范围经济。考虑到综合训练数据的重要性以及训练人工智能模型成本昂贵但查询成本低廉的经济现实,规模和范围效应对人工智能服务非常有利。这表明,继几十年来跨机构和司法管辖区协调经济监管的努力之后,我们的目标应该是减少监管多样性,以实现显着的效率提升。
然而,协调的好处是建立在一个关键前提之上的:我们已经确定了正确的监管目标以及实现这一目标的适当监管机制。如果我们的监管路径足够明显,那么通过监管同质化来提高效率就会发挥作用。对于监管人工智能来说,这个前提的存在尚不清楚。在监管人工智能方面,我们仍处于概念和搜索阶段,尽管公众有很多相反的言论。尽管一些人认为,在全球范围内协调人工智能法规可以防止安全和道德标准方面的竞相竞争,但对于监管人工智能的确切目标应该是什么,尚未达成共识;许多人工智能法规都致力于实现复杂且相互依赖的多个目标。我们也没有明确、明确地确定实现这些目标的最合适机制。
在监管不确定的阶段,更需要的是规则多样性和随之而来的监管实验。如果我们还不知道自己需要什么,我们就必须尝试多种不同的策略来找到最合适的策略。实验是必要的步骤,但还不够。成功的关键是我们从实验中学习。否则,规则多样性和随后的所有试验都将是徒劳的。
在监管试验阶段相互学习的理由是相当明显的。更重要的是如何实际实现它。一些国际政治经济学学者强调了在监管相互依赖的背景下学习的重要性,特别是在监管目的和手段尚未明确界定的情况下;他们指出了开放的沟通渠道和此类学习的创新环境的重要性。过去的案例包括消耗臭氧层化学品的监管、新药审批和监测以及转基因作物。
但大多数监管协调机构,从国家内部到跨国层面,都是为了向监管机构介绍已经确定的单一最佳解决方案,而不是让监管策略杂乱无章地从中学习。从制度上讲,这些监管机构没有能力促进目前最需要的实验和学习。
这使我们陷入困境:如果我们想要实现监管实验和学习,我们需要机构以促进这一点。但我们所掌握的机构,例如二战后最终建立世界贸易组织并倡导全球贸易监管协调的布雷顿森林体系,并不适合这样做。这些专注于特定解决方案的机构是否可以及时重新配置以促进这种开放式学习,这是一个悬而未决的问题。毕竟,我们不是在谈论微调现有流程,而是在非常目标和手段上更换机构,并相应地重塑其流程和机构工作。也许我们需要不同的机构来帮助进行这种实验和学习,或者至少确保机构愿意从根本上重新配置现有组织。管理西非沃尔特河流域的框架可能是前一个战略的一个例子(维基百科也是如此,如果你更喜欢一个更加数字化和不那么以政府为中心的例子),而互联网名称与数字地址分配机构 (ICANN) 的重复(并最终成功)重组最初的失败启动可能就是后者的一个例子。
不过,还没有经过验证的蓝图。实质性监管层面的实验和学习也需要制度层面的实验和学习。收集好的想法、与他人分享以及学习他人的经验可能成本高昂,但从长远来看可能会更加成功。
Viktor Mayer-Schnberger 是互联网治理和监管领域的教授牛津大学博士,与 Urs Gasser 合着《Guardrails: Guiding Human Decisions in the Age of AI》。
Urs Gasser 是技术大学公共政策、治理和创新技术领域的教授。慕尼黑,与 Viktor Mayer-Schnberger 合着《Guardrails:Guiding Human Decisions in the Age of AI》一书。