观点：人工智能将重塑我们的政府。这是一件好事

编者注：人工智能有望重塑人类的生存。谷歌前首席执行官埃里克·施密特认为，它有潜力释放前所未有的人类潜力，并打造历史上最高效、最透明的政府。但 AI 公益联盟的顾问莱里克·卡普兰 (Lyric Kaplan) 认为，如果没有监管，人工智能带来了生存风险这可能会导致极权主义的网络反乌托邦。有中间立场吗？

作为纳粹 当军队袭击欧洲时，H.G. 威尔斯写了一本名为《世界新秩序》的书，概述了一条通往世界和平的道路。威尔斯不仅是他那个时代最著名的科幻小说作家，也是一位空想社会主义者。事实上，根据威尔斯的说法，两者是齐头并进的，科学和人类的进步步调一致。甚至在互联网创建之前，威尔斯就坚信技术具有变革性的力量，可以扩展人类知识、促进世界和平并连接不同地区的社会。

20 世纪 40 年代的西方，社会主义技术乐观主义者与资本主义个人主义者之间展开了激烈的辩论，这与今天的战线几乎完全相反。左翼人士想象一个中央决策者最终能够根据理性的成本效益分析做出最优分配。一位奥地利科学哲学家奥托·纽拉特（Otto Neurath）主张实行社会主义计划，将经济视为一个工厂。奥地利经济学家弗里德里希·冯·哈耶克（Friedrich von Hayek）等自由主义者不同意这种观点。

如今，真正的“奇点”的潜力也引发了类似的希望。二十一世纪的技术乐观主义者现在通常来自世界上最成功的资本家，他们想象一种超级智能的通用人工智能，它可以超越所有人类智能，并可用来解决世界上最大的挑战。更加乌托邦的技术乐观主义者设想了一个人工智能代理完全取代人类决策者的世界。

与许多革命思想家一样，今天的技术乐观主义者有些走得太远了。他们误解了政府需要什么才能被习惯了民主程序的公民视为合法；更糟糕的是，他们忽视了民主制度的存在不仅是为了实现特定的行政目标，而且是为了在全社会产生平等和赋权的意识。

虽然我们不应该用“算法统治”——算法统治来全面取代民主——但技术乐观主义者确实发现了一些重要的东西：人工智能将从根本上改变政府做出每项决策的方式，从地方到全球。自 18 世纪末现代民主诞生以来，人工智能时代或许将首次迫使人们对这一制度进行清算。公民需要重申为什么民主在他们的生活中仍然很重要。领导者需要重新评估什么是有效的、什么是无效的，并进行相应的创新。如果民主要在本世纪及以后生存，它就必须不断发展。

然而，这一新现实不应引起恐惧或遗憾。这是令人兴奋和希望的原因。人工智能为改善治理提供了人类历史上前所未有的机会。

到目前为止，军事领域在人工智能的公众采用方面处于领先地位。这在乌克兰战场上表现得最为明显，乌克兰军队试图通过技术创新与规模大得多的俄罗斯军队保持同步。从开源情报收集到人工智能驱动的无人机，该技术已经开始改写战争的方式。然而，很快，其他领域——从医疗保健到教育——也将效仿。随着人工智能系统的不断改进，政府将不得不做出艰难的决定——平衡公平、速度和成本——决定将哪些决策委托给这些新技术，哪些决策保留给人类监督。

人工智能在改善地方和国家政府在行政、司法和立法等一系列职责方面的运作方式有着巨大的潜力。借助新的预测模型和新颖的数据收集工具，行政部门领导者将能够做出更明智、数据驱动的决策，尤其是在危机时刻的时间有限的情况下。在基于过去案件并根据人类和数据偏见进行调整的人工智能模型的协助下，法官也将能够做出更好、更公平和更快的决定。在立法层面，政策制定者将随时召集专家进行研究，并获取可以帮助在几秒钟内起草和修改法律的工具。

除了改善决策流程和政府效率之外，人工智能还可以帮助建立对民主治理本身的支持和信心。通过人工智能支持的新众包机制，政府可以更轻松地汇总公民偏好并鼓励公民直接参与，促进更多人参与自己的治理并扩大民主实践。通过扩大集体决策新形式的可能性，人工智能可以从根本上改变政治家、公民以及介于两者之间的一切的含义

与此同时，程序正义和人类领导力的根深蒂固的规范应该让那些预见人工智能社会规划者全面胜利的人停下来。毕竟，事实证明，20 世纪的社会主义计划者也同样容易犯错。通用人工智能的到来可能预示着新的世界秩序，而更多的是我们当前自由秩序的改进版本：民主2.0。

与许多革命思想家一样，今天的技术乐观主义者有些走得太远了。他们误解了政府需要什么才能被习惯了民主程序的公民视为合法。

是否在治理中使用人工智能是一个主动的选择。那么，为什么我们应该在对民主进程的运作如此敏感的领域引入新技术呢？简单的答案是我们当前的方法还不够好。

我们当前的治理工具充满了人为偏见，导致结果不佳和公众不满。除此之外，我们知道政治决策会受到可用性和新近偏差的影响——9/11 之后，政客们在反恐行动上花费了数十亿美元，但在 Covid-19 之前却很少关注全球大流行的风险。实验一致表明，受过高等教育、有党派倾向的个人（换句话说，掌权的政客）最不可能用新信息更新他们的政治观点。对于已经两极分化的政治阶层来说，这不是一个好兆头，尤其是在美国。

似乎这还不够，人类的决策也会受到身体限制的负面影响：军事操作员在疲劳时表现会更差；午餐时间之前，法官就不那么宽容了。在人工智能的帮助下，政府将能够更好、更便宜、更快地提供更多服务。简而言之，人工智能可以帮助负责人做出更好的决策。

例如，人工智能将成为打击腐败和欺诈的重要武器。2022 年，美国国税局能够回复报税季期间拨打的电话的不到三分之一。未来，大型语言模型和人工智能代理应该通过管理纳税人查询来减轻负担，算法将增强人类分析师检测欺诈和逃税的能力。

人工智能绝不是没有缺陷的：算法也是由人类创造的，因此容易受到许多相同偏见的影响。COMPAS 可能是美国司法系统中使用最广泛的人工智能工具，但因其在确定累犯风险时存在种族偏见而受到批评。但对于人工智能来说，偏见可能不那么静态。这些模型是针对特定的数据集进行训练的，如果算法随着时间的推移显示出不足之处，则可以针对更好、更具包容性的数据进行重新训练。即使不完美的算法仍然可以用来指出人类出现的偏见。

政府各部门对人工智能的采用将采取不同的形式，有时会取代人类的决策，但更常见的是增强和告知人类决策。事实上，开发人工智能来做出自主决策的过程实际上与开发人工智能来补充人类决策的过程完全不同——而且后者可能会被证明在公共领域更具影响力。因此，人工智能在治理中的整合往往是对人类错误的回应，而不是对算法能力的肯定。

在世界面临地缘政治危机交汇之际，人工智能有望大幅改善行政决策。它在这里的作用源于其以极快的速度处理大量数据的独特能力。

想象一下，总司令面临着是否下令对敌对国家的阵地进行报复性导弹袭击的决定。目前，总统可能会召集顾问，他们最多会迅速向对所涉问题有不同程度了解的部门征求备忘录。然而，在人工智能的帮助下，白宫可以汇总来自各个机构的所有情报报告和历史外交电报，分析大量开源信息，然后得出明智的建议。

人工智能还可以极大地提高我们执行机构的预测能力。它可以在几分钟内模拟不同的场景，帮助负责人更好地应对各种突发事件。通过依靠本地情绪分析、传感器数据和历史数据集，人工智能已经帮助增强了人类预测政治趋势和危机的能力，并且随着时间的推移，人工智能肯定会变得越来越好。

决策者还可以依靠大型语言模型来制定美国外交政策的“红队”，动态模拟其他参与者对美国举措的反应。除了运行一次或两次战争游戏之外，我们还可以模拟战争游戏数千次并要求模型总结其结果。人们还可以想象一个“普京聊天机器人”，根据俄罗斯总统的行动、信仰和声明接受公共和机密信息的训练。通过这些方式，人工智能可以提高对情境的理解，并向负责人推荐行动方案。

人工智能弥补人类判断失误的杰出案例是在法庭上。尽管与政治部门相比，法院历来享有较高的公众信心，但近年来，法院却陷入了偏见和党派之争的泥潭，而这往往是有充分理由的。人工智能可以显着提高司法判决的速度和公平性。

在法庭上，人工智能将在很大程度上增强而不是取代人类的决策。人工智能将能够检测判断自己无法看到的偏见模式，并根据预测能力评估风险。人工智能系统利用其分析大量现有先例的能力，可以汇编法院在类似案件中做出的判决，帮助法官做出更明智、更一致和更公平的选择。法官甚至可以帮助根据他们的特定需求定制模型输入系统，决定他们的决策基于哪些先例，并使用大型语言模型来总结相关裁决。

在某些情况下，人工智能模型可能能够替代有关交通违规或其他轻罪的低级和常规司法判决。但法官和陪审团应该始终拥有最终决定权。更重要的是，他们所依赖的模型应该是可审​​计和透明的，其中编码的信息既可以存档又可以访问。这样的要求对于人工智能公司来说可能难以接受和实现，但对于确保公众对司法判决的信任至关重要。加密方法和评估算法可以保护公司的商业秘密，同时迫使模型揭示其建议背后的基本原理。为了保护技术提供商，可以指定第三方审计员遵守合法的算法标准。

也许最乌托邦的想法是人工智能可以帮助美国国会和类似机构摆脱永久的立法僵局。不过，随着时间的推移，人工智能可以为立法者提供强大的工具，以做出更明智的决策、预测结果、简化行政任务并有可能达成一致。

通过处理来自各种来源（包括民意调查、社交媒体、经济指标和历史投票模式）的大型数据集，人工智能算法可以识别趋势，帮助立法者了解其拟议法律的潜在影响并预测公众对这些法律的反应。例如，人工智能可以通过模拟情景并向立法者提供一系列可能的结果来分析拟议税收的经济影响。在法国总统埃马纽埃尔·马克龙 (Emmanuel Macron) 2018 年试图在法国征收碳税之前，这样的工具本来会非常有帮助，最终在黄背心运动中引起了公众的巨大骚动。凭借增强的远见，人工智能可以帮助政策制定者在强烈反对发生之前先发制人并重新设计立法。

人工智能还可以提高立法过程的效率和准确性。国会研究服务处为国会议员提供全面的研究和分析，可以利用人工智能来显着增强其能力。自然语言处理算法可以通过快速识别与现有法律的不一致或冗余来协助起草、修改和分析立法文本。这可以显着减少法律研究所需的时间和精力，以确保拟议的法案连贯且合法。

对于像选民服务这样简单的事情，人工智能可以分析公众的沟通，对问题进行分类，并根据紧急性和相关性对响应进行优先级排序。人工智能驱动的平台同样可以促进更有效的公众咨询，允许公民通过用户友好的界面就立法提案提供意见。总体而言，人工智能可以使政府更加开放，更能响应公众的需求，加强国家与人民之间的联系。

人工智能将从根本上改变政府从地方到全球做出每项决策的方式。自 18 世纪末现代民主诞生以来，人工智能时代或许将首次迫使人们对这一制度进行清算。

随着人工智能在政府部门的广泛应用，技术乐观主义者到底是对的吗？算法是否应该简单地取代有缺陷的人类决策者？不完全是。人工智能在治理方面面临的挑战不仅仅是技术挑战。从更深层次的意义上来说，人工智能治理面临着合法性危机的风险。对传统机构的信任已经处于历史最低水平。

在不负责任的人工智能系统的要求下做出的不透明决策可能只会进一步削弱信任：人们很容易想象民粹主义对受制于大型科技的行政国家的尖酸刻薄。到目前为止，人工智能的悖论在于人们不信任人工智能，但却渴望使用它。调查发现，人工智能被认为比人类系统更有效，但也不太值得信赖。

人工智能治理与专家治理陷入同样的​​陷阱。它假定所有政治决策都只是技术决策，可以通过正确的信息清楚、干净地解决。事实上，某些政策决策确实比其他决策更能客观地促进人类繁荣。确实，有许多行政职能很容易分类，但如果政府就每一项职能都征求公众的意见，效率就会大大降低。

但许多政治决策是通过对相互竞争的价值观和优先事项进行某种妥协而达成的。正如亚里士多德在《尼各马可伦理学》中所说的那样，“没有人会考虑那些一成不变的事情，也不会考虑他不可能做的事情。”即使人工智能可以完美地模拟公民的偏好，公共合法性也同样重要一个包容和透明的过程，就像它对最终结果一样。

将重要决策委托给超级智能黑匣子似乎将技术统治推向了逻辑的极端。人工智能政府有可能将权力进一步集中到不负责任的官僚、技术官僚，甚至在某些情况下的独裁者手中。人工智能并不是通过透明的政治过程将公民的偏好转化为政策，而是接受大量难以想象的输入，并在通常不透明的算法的帮助下得出看似无法解释的输出。即使它的输出建议在某些指标上明显优于人类，但达到这些指标的过程并不能激发公众的信任。事实上，将权力委托给人工智能可能为当选政客提供一种转移批评的便捷方式，并为最好的无能和最坏的威权主义提供借口。

我们可以利用人工智能来改善民主进程本身，从而产生新形式的立法和立法参与，而不是将决策权外包给人工智能。这样，人工智能不仅可以帮助政府中的个人做出更好的决策，还可以帮助他们做出更好的决策。它甚至可以帮助在系统层面上培育更加民主的公民文化，增强整个社会的参与、审议和社会凝聚力。

从历史上看，民主的合法性依赖于两大支柱：协商和群众参与。不同的制度配置在不同程度上优先考虑这些理想，而且它们有时会相互矛盾。

在古代雅典民主的黎明时期，人们通过将民众议会（一种所有公民都可以选择参与的直接民主形式）与由随机选择的公民组成的较小的审议机构配对来寻求平衡。随着大型民族国家取代同质的城邦，并且选举成为 18 世纪现代民主的核心，协商与大众参与之间的紧张关系日益加剧。投票和偶尔的公民投票被认为可以满足群众参与的需要，审议原则塑造上游的议会辩论，尽管很少触及普通公民。

如今，随着民粹主义浪潮在世界各地蔓延，公民要求在公共审议中发挥更核心的作用，协商民主的倡导者希望基于抽签的公民集会能够赋予公民权力并重振我们的政治话语。但到目前为止，协商民主的实验规模仅限于最多几百人。让人类主持并参与更大的论坛在逻辑上是不可行的。

这就是人工智能的用武之地。人工智能有能力扩大协商民主，从而有助于解决协商与大众参与之间的根本紧张关系。一个虚拟市政厅（或数百个同时市政厅）可以通过众包输入的人工智能平台在整个国家运行。在线论坛可以征求公民的意见，然后根据专家的意见汇总共同观点。每个公民的口袋里都可以有一个人工智能聊天机器人，作为协商伙伴，迫使他们与相反的观点作斗争并强化他们的理由。这些想法的变化可能适合不同的政府，政策制定者应该尝试多元化的方法。

一个早期的例子是 Pol.is，这是一个人工智能平台，它已经成功吸引了台湾一半的人口，实时汇总和分析公民的反馈。台湾利用这个平台帮助公众在人工智能监管问题上达成一致，从而增强了政府的合法性。在某种程度上，解决人工智能过多问题的办法可能就是更多的人工智能。台湾和其他国家并没有将权力转移给不负责任的算法，而是利用人工智能作为将权力下放给本国公民的工具。

领导者需要重新评估什么是有效的、什么是无效的，并进行相应的创新。如果民主要在本世纪及以后生存，它就必须不断发展。

人工智能的合法性危机是真实存在的，如果要在政府中使用新技术，就需要在承诺和风险之间进行仔细的平衡。人工智能以人为中心时效果最佳，根据人类反馈和沟通不断改进其算法。只有以明确的价值观为指导，人工智能才能恢复对政治决策者的信任。为了促进公众信任和合法性，人工智能辅助决策应遵循问责制和可解释性原则。

首先，在国家核心职能方面，人类必须保持最终仲裁者的地位。因此，人类也必须负起责任。根据算法建议行事的人，无论是低级法官还是总统，当他们的决定出错时，仍然必须承担责任。受影响的公民应该能够对在人工智能帮助下做出的政府决定提出上诉。

其次，与此相关的是，关键领域的官僚决策必须保持可解释性——当涉及大型语言模型时，这绝非易事，但随着时间的推移，有望变得更加精确。政治家和官僚需要技术专业知识才能理解为他们的决策提供信息的算法的输出。负责人必须能够证明实施贸易禁运或减刑的决定的合理性，特别是如果这些决定是在人工智能的帮助下做出的。

第三，公共部门使用的人工智能系统必须受到与非歧视和隐私相关的严格控制。中国的社会信用评分系统让人担心会出现一个反乌托邦式的全景监狱，每一步都会被追踪，任何点击都可能被用来对付我们。唐纳德·特朗普总统在任期间指示国会利用社交媒体来侦查残疾欺诈行为。可悲的是，美国也未能免受大规模监视的诱惑。

至少可以说，这些挑战是令人畏惧的。尽管新的人工智能模型在技术上可能很先进，但除非它们能为公众所理解，否则它们将无法克服信任和合法性危机。成功过渡到新的治理时代意味着不仅人工智能模型必须更好地传达他们的见解，政治领导人也必须如此。负责人在引入这些新的决策模式时需要谨慎行事，始终对未来的风险和挑战保持透明。

但领导者不应该如此害怕人工智能而完全排除其应用。人工智能系统不会自行行动；最终，是否在政府中使用人工智能是人类的选择。我们对如何设计它保持代理权，这样就可以设定它如何参与世界的参数。正如所讨论的，政府可以通过使用人工智能获得巨大的利益，从而在行政、司法和立法领域做出更快、更公平的决策。比任何单一用例更重要的是，人工智能可以改善与政府互动和塑造政府的过程，通过新的协商和参与机制使所有人都能实现自治的民主理想。

为了迎接人工智能促进良好治理的未来，我们首先必须确保公共部门不落后。美国政府需要投资资源（数据、软件），以实现可解释、透明和可靠的人工智能的快速创新、采用和扩展。在 AI 行政命令 12 的基础上，白宫应继续鼓励联邦机构采用这些新技术。最重要的是，良好的领导始于合适的人。美国政府应全力吸纳本国顶尖人才。Horizo​​n、Partnership for Public Service 和 Nobel Reach Foundation 等组织一直在为公共服务招募顶尖技术人才。我们最优秀和最聪明的人应该帮助构建和实施可以增强和协助人类决策的人工智能工具。如果我们做到这一点，人工智能的新时代应该使我们的政治更加数据驱动、更加民主、更少武断和两极分化。

埃里克·施密特是谷歌前董事长兼首席执行官。本文改编自斯坦福大学的项目“数字主义者论文”，并经斯坦福数字经济实验室许可出版。

这个故事出现在 2025 年 1 月/2 月号沙漠杂志。了解有关如何订阅的更多信息。