人工智能公司正在试图创造上帝。他们不应该先征得我们的同意吗？

人工智能公司正致力于彻底改变我们的世界。它们正在研发能够超越人类智力的机器，并将对所有人带来一场剧烈的经济变革。

这里有一个非常自然的问题：真的有人要求过这种人工智能吗？那些强大的科技公司首席执行官凭什么有权决定整个世界应该被彻底改变？

正如我之前写过的很明显，私人公司正在建设旨在彻底改变世界的技术，而没有征求公众的意见，这是不符合民主原则的。事实上，即使是大型公司的领导人也表达了对此现象的不安，认为这不够民主。

杰克·克拉克，人工智能公司Anthropic的联合创始人，告诉Vox去年他说这是一个“真正的怪事，这居然不是一个政府项目。”他也表示写了他对自己感到“困惑和不安”的几件关键事情进行了阐述，包括：“AI开发者在不可挽回地改变社会之前需要从社会获得多少许可？”克拉克继续说道：

我注意到，每当有人质疑“无需许可的发明”这一规范时，许多技术爱好者都会提出反对意见。他们的反对理由似乎总是归结为三种类型。由于这是一个永恒且重要的辩论话题，逐一探讨每种观点及其错误之处是值得的。

ChatGPT是历史上增长最快的消费者应用之一：它拥有一亿活跃用户就在它发布后的两个月内。无可争议的是，很多人真的觉得它非常酷。这促使了其他聊天机器人的发布，比如Claude，各种人都在使用它们——从记者到程序员再到忙碌的父母，他们希望有人（或某物）能帮他们列出该死的食物清单。

有些人声称这个简单的事实——我们在使用AI！——证明了人们同意这些大型公司所做的一切。

这是一个常见的说法，但我认为这非常具有误导性。我们使用AI系统并不等同于同意。通常所说的“同意”是指知情同意，而不是出于无知或被迫的同意。

此外，我们都生活在选择的环境之中，这些环境迫使我们使用本想避免的技术。有时候我们“同意”使用技术是因为担心如果不使用它会在职业上处于劣势。想想社交媒体吧。如果不是因为作为记者人们认为我在 X（前推特）上活跃对于我的工作很重要，我本人是不会用 X 的。在最近的一次调查问卷许多年轻人表示希望社交媒体平台从未被发明，但鉴于这些平台确实存在，他们感到不得不使用它们。

即使你认为有人使用特定的人工智能系统就构成了同意，这也并不意味着他们同意构建通用人工智能的更大项目。

这带我们来到了一个重要区别：有狭义人工智能——一种专门为特定任务（比如语言翻译）而设计的系统——然后还有通用人工智能。狭义人工智能可以非常棒！例如，AI系统能够免费为你工作的粗略校对提供帮助，或者让你仅用普通英语就能编写计算机代码，这些都是很有益的；此外，AI正在帮助科学家更好地理解疾病，这真是太好了。

而且这实在是太酷了人工智能破解了蛋白质折叠问题——预测蛋白质将会折叠成哪种三维形状的挑战——一个困扰生物学家长达50年的难题。诺贝尔化学委员会显然同意这一点：它刚刚授予了诺贝尔奖给AI先驱者以实现这一突破，这将有助于药物发现。

但这与试图建立一个超越人类的通用推理机器不同，也就是所谓的“天上的魔法智能”。虽然有很多人确实想要狭义人工智能，民意调查显示大多数美国人不希望有通用人工智能这就带我们来到了……

这里有一句常被引用的话（虽然疑虑地“如果我问人们想要什么，他们可能会说想要更快的马。”

这里声称天才发明家在发布新发明之前不会征求公众的支持是有充分理由的：社会太缺乏见识或想象力，无法判断什么是好的创新。从印刷术和电报到电力和互联网，历史上许多伟大的技术创新都是因为少数几个人凭借权威做出了决定。

但这并不意味着凭一己之力做出决定总是合适的。社会经常让发明家这样做，可能部分是因为技术解决方案主义，部分是因为相信“伟人”历史观，还有一部分原因则是，在没有大众传媒的时代——在没有印刷机或电报的时代——广泛征求社会意见确实非常困难！

而这些发明确实伴随着感知到的风险以及真实的它们并没有带来灭绝人类或使我们臣服于另一个物种的威胁。

对于迄今为止我们发明的少数几项达到这一标准的技术，寻求民主意见并建立全球监督机制有已经被尝试过，而且是正确的。这就是我们有《不扩散核武器条约》和《生物武器公约》的原因——虽然有效实施起来很困难，但非常重要的条约为了保持我们世界的安全。

作为非营利组织AI政策研究所的执行主任丹尼尔·科尔森，告诉我去年，“政策制定者不应该从选民或民意调查中获取解决这些问题的具体方法。我认为选民不应是不过，真正值得问的人是：你们希望政策带来什么？以及你们希望社会朝着哪个方向发展？

最后是技术不可避免性的论点，认为你无法阻止技术进步的前进——它是不可阻挡的！

这是一个神话事实上，我们决定不开发很多技术，或者我们已经建造但施加了非常严格的限制的技术。想想人类克隆或人类基因组编辑。1975年阿西乐玛会议的背后是重组DNA研究人员著名的组织了一场暂停期在某些实验中。我们并没有克隆人类。

或者想想1967年签署的《外层空间条约》。该条约是在冷战背景下由联合国采纳的，它禁止各国在外空进行某些活动——比如在那里存放核武器。如今，这项条约在讨论中被提到关于是否应该向太空发送信息的辩论怀着与外星生命接触的希望。有人认为这是危险的，因为一旦外星物种知道我们的存在，可能会征服和压迫我们。也有人认为这将是一件好事——也许外星人会以《银河百科全书》的形式赠予我们他们的知识！

不管怎样，很明显，赌注是极其高的，整个人类文明都会受到影响，促使一些人采取行动，(prompting some to)这部分翻译不完整，无法确定其具体含义，因此保留原文部分。论证民主审议的理由在有意的信号发送到太空之前。

古罗马有一句谚语：关乎所有人利益的事应由所有人决定。

这正如超级智能人工智能一样适用于核武器、化学武器或星际广播。