Anthropic的首席执行官认为人工智能将带来一个乌托邦——他只需要先拿到几十亿美元资金就行了。

如果你想筹集巨额资金，你最好有一些非凡的理由。

这就是Anthropic首席执行官Dario Amodei所说的星期五为我们准备好的超过14000字的内容：超自然的人工通用智能（AGI）的实现方式，虽然他更喜欢称之为“强大的人工智能”）将改变我们的生活。在一篇题为 “充满爱意的机器” 他设想了一个未来，在那个时代，人工智能能够将一百年的医学进步压缩到十年内实现，治愈像创伤后应激障碍和抑郁症这样的精神疾病，将你的意识上传到云端，并缓解贫困。与此同时，这是一项报告的Anthropic希望以40亿美元的估值筹集新资金。

今天的AI完全做不到阿莫迪所设想的那些。据他本人承认，这将需要数百亿美元的价值计算能力为了训练AGI模型，需要建造价值数万亿的超级数据中心，并且这些数据中心从本地电网消耗的能量足以维持数百万人的家庭照明。更不用说没有人能确定这是可能实现的。Amodei自己也表示：“当然没有人能够确切地预测未来，强大的人工智能的影响可能会比过去的科技变革更加难以预料，所以这一切都不可避免地会是一系列猜测。”

AI行业的高管们已经掌握了在大规模融资前作出宏伟承诺的艺术。以OpenAI的Sam Altman为例，他的“智能时代”博客紧随其后的是66亿美元的一轮融资。在Altman的博客中，他宣称“在几千天内世界将拥有超级智能”，这将带来“巨大的繁荣”。这是一个颇具说服力的表现：勾画一个乌托邦式的未来，暗示解决人类最深层恐惧——死亡、饥饿、贫困——然后论证只有通过消除一些冗余的安全措施和注入前所未有的资金才能实现这一技术乌托邦。这是精明的市场营销，利用了我们最大的希望和焦虑，并巧妙地避开了提供确凿证据的需要。

这篇博客的发布时间也凸显了竞争的激烈程度。正如阿莫代伊指出的，一篇长达14000字的乌托邦宣言对于Anthropic来说是相当不寻常的。该公司是在阿莫代伊和其他人因安全问题离开OpenAI后成立的，并且它培养了一种认真评估风险而非对未来抱有幻想的良好声誉。这也是为什么公司继续从OpenAI挖取安全研究人员的原因。即使在上周的文章中，他坚持认为Anthropic将优先考虑坦诚地讨论人工智能的风险，而不是对技术乌托邦的诱人愿景。

但安全并不是一个令人兴奋的演示文稿主题，而且每天都有新的挑战者出现。OpenAI 的联合创始人伊利亚·苏茨克韦尔成立了自己的人工智能实验室，而离职的 OpenAI 首席技术官米拉·穆拉蒂据传是开始自己的事业。阿莫德伊的博客不只是为了推销他的愿景——更是为了保持竞争力。

尽管他声称厌恶夸大其词，但他还是这样做了一会儿千余词语描绘一个未来，人工智能能够重塑人类的命运（似乎与Altman巧舌如簧的推销相吻合）在科技圈内传奇般存在这篇帖子只提到了一次“对齐”，即确保AI系统按照人类价值观运行，并未提及安全性。这种矛盾揭示了一个残酷的事实：在高风险的AI开发世界中，即使那些警惕炒作的人也不得不做出宏大承诺以获取关键资金。

目前，这项技术的实际能力与AI领导者所构想的乌托邦之间存在着巨大的差距。这导致了很多公正的批评——如果连“strawberry”这个词中的R的数量都无法可靠地计数，怎么可能在几年内就改变世界呢？人工智能可靠擅长的是什么？现在自动化常规任务和分析海量数据集，以越来越高的精度识别模式。这一优势已经在金融、医学和自动驾驶车辆等领域发挥作用。但尽管这些进展令人印象深刻，像阿莫德的那样宣称AI可能会“结构性地有利于民主”则显得有些过早且过于乐观。值得一提的是，AGI的支持者认为他的博客文章有点太温顺了（阿莫德在他博客中预见了这一点，在脚注中写道他们应该“接触草地”。）

阿莫代的博客文章不是为普通的对人工智能感兴趣的读者写的，也不是一个能够说服人的关于通用人工智能（AGI）未来路线图——再次强调，这是一件可能永远不会以AI行业所设想的形式存在的东西。这是一份面向投资者的提案：支持Anthropic，你就不仅仅是在资助一家公司；你还在购买人类辉煌未来的股份。无论是隐晦还是直白，这就是每一位AI高管——奥尔特曼在OpenAI、埃隆·马斯克在xAI、谢尔盖·布林在谷歌——都在承诺的事情。要么加入他们对未来世界的愿景，要么被淘汰。

尽管人工智能具有新颖性，科技巨头早就将其创新宣传为拯救世界的解决方案。马克·扎克伯格曾推销过万能的互联网作为脱贫手段布林曾声明过马斯克称谷歌能够“治愈死亡。”框定了SpaceX的星际雄心作为我们物种的最终备份计划（最近更是投票给唐纳德·特朗普的必要性）。但当投资者的钱是有限的时候，利他主义就是一场零和游戏。作为一个事实，迈克·杰德作品中的科技巨头硅谷 正如某人著名所说的，“我不想生活在一个别人让世界变得比我们更好的世界里。”

阿莫德伊显然意识到听起来夸张的风险。“AI公司谈论所有关于AI的惊人好处时，可能会显得像宣传者，或者像是试图转移人们对负面影响的关注，”他写道。这并没有阻止他参与其中。

“它是一种超凡的美，”阿莫德伊在他的博客中总结道。“我们有机会扮演一些小角色，让它成为现实。”