值得庆幸的是，我不必遵循 OpenAI 首席执行官 Sam Altman 对世界所做的每一个陈述。其中许多陈述看起来更像是“喧嚣”或“推销”，而不是试图深思熟虑地谈论未来。即使它们是真正的信仰陈述，它们读起来也常常像青少年的第一部科幻小说，是在大麻和太多的影响下写成的星际迷航。

例如，考虑 Altman 的博客文章 –温柔的奇点，—去年出版，有近 60 万人阅读。它的中心论点似乎是人工智能是有好处的；到目前为止一切都很好，未来一切都会更好！我的意思是，等到我们制造出可以将这些人工智能放入其中的机器人，然后告诉这些机器人去制造更多的机器人。

如果我们必须以老式的方式制造第一百万个人形机器人，但随后它们可以操作整个供应链——挖掘和提炼矿物、驾驶卡车、运行工厂等——来制造更多的机器人，从而可以建造更多的芯片制造设施、数据中心等，那么进度显然会大不相同。

一切都在变好；事实上，情况正在变得更好更快感谢这样的“自我强化循环”。缺点？诡计问题！没有任何真实的缺点是因为人们习惯了事物。迅速地。听听它会有多棒：

技术进步的速度将不断加快，人们将继续有能力适应几乎任何事物。将会有一些非常困难的部分，比如整个类别的工作岗位都会消失，但另一方面，世界将变得如此迅速地变得如此富有，以至于我们将能够认真考虑以前从未有过的新政策理念。我们可能不会一下子就采用新的社会契约，但是当我们几十年后回顾时，逐渐的变化将产生巨大的影响。

如果以史为鉴的话，我们将找出要做的新事和想要的新事，并快速吸收新工具（工业革命后的工作变动就是一个很好的例子）。期望会提高，但能力也会同样快速提高，我们都会得到更好的东西。我们将为彼此创造更加美好的事物。

也许您最近环顾过这个世界，想知道“为彼此打造更加美好的事物”是否真的能很好地描述您所看到的一切。

但你可能遇到的任何小问题——例如，关于后工业革命世界的疯狂暴力的问题，或者“更好的东西”是否能解决许多人类问题——在奥特曼的世界里几乎不需要解决。未来如此光明，我们需要佩戴（人工智能驱动的）墨镜！

（这种简单化的态度在聪明的硅谷人中非常普遍。风险投资家兼 Netscape 联合创始人马克·安德森 (Marc Andreessen) 写了一篇文章臭名昭著的2023年文章同样“没有缺点！”的风格。它充满了非讽刺性的陈述，比如“我们遇到了孤立的问题，所以我们发明了互联网。”它的特点是这种类型——Randian对“我们之前的伟大技术专家和实业家”的崇拜，尼采的一些引言，当然还有诸如“我们不是原始人，因害怕闪电而畏缩”之类的咆哮。我们是顶级掠食者；闪电对我们有用。 –

硅谷——这里的细微差别将消失，这里的“傲慢”只是“成功”的同义词，而书呆子们则将自己视为顶级掠夺者。

与此同时，科技投资者 Peter Thiel 环游世界咆哮敌基督者，而马克·扎克伯格在失败的“元宇宙”上损失了 800 亿美元。这些家伙并不是他们认为的世界一流天才。但他们确实有着某种共同的权力意志——以及他们应该行使这种权力的感觉。）

如果你对像萨姆·奥尔特曼这样的人统治的世界到底有多伟大存有疑问，那么你应该阅读一下他的长（looooooong）简介昨天出现在我们的姊妹刊物《纽约客》上。是的，它超过 16,000 个单词，是的，您会遇到分音虽然次数令人不安，但绝对值得付出努力。

我的同事 Ashley Belanger 已经在讨论 OpenAI 新的“产业政策”文件时提到了这篇文章，也在昨天发布，但我想更仔细地了解这篇文章揭示了硅谷主要公司的经营者的性格。

在他们的文章中，罗南·法罗和安德鲁·马兰士采访了包括奥特曼在内的 100 多人，他们从这项工作中带回的报告相当令人沮丧；“说谎”和“反社会”这两个词被反复使用。以下是一些相关引述：

一位董事会成员对[奥特曼]的声明提出了不同的解释：“这句话的意思是——我有向人撒谎的特质，而且我不会停止。”

奥特曼童年时的态度，他的兄弟告诉纽约客2016年，“我必须赢，我负责一切”……

正如卢普特老员工马克·雅各布斯坦（Mark Jacobstein）被投资者要求充当奥特曼的“保姆”一样，他后来告诉基奇·哈吉（Keach Hagey），在奥特曼的传记《乐观主义者》中，“我认为我也许可以完成这件事”和“我认为我也许能完成这件事”之间存在着模糊的界限。“我已经完成了这件事——它最有害的形式导致了希拉洛斯——伊丽莎白·霍姆斯的欺诈性初创公司……

微软的多位高管表示，尽管纳德拉长期以来保持忠诚，但公司与奥特曼的关系已经变得紧张。一位人士表示，“他歪曲事实、歪曲事实、重新谈判、违背协议”

奥特曼有着不屈不挠的权力意志，即使在那些把自己的名字写在宇宙飞船上的实业家中，这也使他与众不同。“他不受真相的约束，”董事会成员告诉我们……

亚伦·斯沃茨 (Aaron Swartz) 是 Altman 在第一批 Y Combinator 中的同伴之一，他是一位才华横溢但陷入困境的程序员，于 2013 年自杀身亡，现在在许多科技圈中被视为圣人。去世前不久，斯沃茨向几位朋友表达了对奥特曼的担忧。“你需要明白，山姆永远不值得信任，”他告诉一位人士。——他是一个反社会者。他愿意做任何事。”

这篇文章记录了看似令人难以置信的事情灵活伦理和政治观点。奥特曼顺利地从民主党支持者转变为特朗普的支持者，从希望“疯狂的科幻未来为我们所有人实现”到与独裁者会面。人工智能安全是 OpenAI 几年前宣称的使命的关键部分，但随着 Altman 追逐金钱、权力和交易，它在很大程度上已经被抛在了一边。

这篇文章的潜台词之一是，这里所展示的负面特征实际上并不对商业不利；相反事实上，它们非常适合（短期）业务。从长远来看，它们是否对业务有利（你实际上需要人们信任你），这是一个悬而未决的问题。

对于某些任务，人工智能确实令人惊叹；机器学习算法和大型语言模型等背后的技术很巧妙，但结果似乎总是被我不特别喜欢或不信任的人和公司最卖力地兜售。（哎呀，Anthropic 使用我的一本书来训练它的数据库，这是它现在在法庭上向作者支付费用的罪过。）给我同样类型的工具，但在我的本地控制下，由维基百科式的非营利组织管理，并接受来自道德来源的数据的培训，我会更多地使用它们。

但目前在我们许多自恋的科技和政治领导人中流行的灵活原则和卡通恶行意味着公众可能会对人工智能工具本身感到厌恶（事实上，在整个“硅谷科技场景”中，我们已经看到了这一点）。这是一个连 OpenAI 都认为是严重问题的威胁。

当你看看马斯克、特朗普和奥特曼这样的人时——文章中都重点提到了他们——你会发现他们在同一个圈子里移动，这是有道理的。深刻的思想、道德的行为、坚如磐石的正直、自我意识……当你可以的时候，谁需要这些废话尤伯曼施你的人生之路，是通过纯粹的忙碌、古怪的言论和意志力将现实哄骗成你喜欢的形状吗？

确实，我们已经生活在奥特曼向我们承诺的科幻未来中。他是对的，这有点“疯狂”。