萨姆·奥尔特曼 (Sam Altman) 的推文激起了巨大的波澜，人工智能奇点直面我们的脸

在今天的专栏中，我研究了 OpenAI 首席执行官 Sam Altman 最近发布的两条推文，这两条推文引起了相当大的轰动。结果是，他的帖子表明我们可能正处于、接近甚至正在经历人工智能进步的重要时刻，即人工智能奇点。这意味着通用人工智能（AGI）或可能的超级人工智能（ASI）本质上正直面着我们。

我们来谈谈吧。

对人工智能创新突破的分析是我正在进行的《福布斯》专栏报道的一部分，内容涉及人工智能的最新进展，包括识别和解释各种有影响力的人工智能复杂性（请参阅链接在这里）。

关于智力的本质

在我开始讨论那些具有挑衅性的推文之前，我想先提出一些基本的考虑因素。

首先要考虑的是智力。协议是这样的：可以提出一个令人信服的案例，证明情报会产生情报。换句话说，通过积累智力并与智力相互作用，有可能产生更多的智力。这似乎是一个合理的断言，而且有一种直觉的感觉。

如果你接受这个假设，我们就可以开始讨论各种分支定理。

最突出的分支是有可能引发智力的连锁反应。将此视为类似于核爆炸。核原子链式反应点燃核活动，然后为自身进一步扩张提供燃料。也许智力也是如此。可能有一种现象被称为智力爆炸。智力似乎可能会“点燃”，以促进越来越多的智力的扩展，并以令人难以置信的速度快速运行。

您可能知道，当核反应在第二次世界大战期间首次被设计出来时，有人担心核反应一旦开始，它可能会几乎无限期地进行。人们的想法是，地球的大气层可能会参与反应，接下来发生的事情就是整个地球被火焰和废墟吞没。这个令人严重关切的著名时刻在许多电影中都有描述，例如轰动一时的电影《2023》奥本海默。

反思这种潜在的破坏性结果会在情报领域引发类似的问题。

如果出现不受约束的情报爆炸会发生什么？

答案是没有人能确定会发生什么。各种各样的理论随处可见。有些人持乐观的观点，并宣称这将是有史以来最好的事情。其他人则持悲观态度，担心彻底的毁灭可能正在发生。

情报爆炸的动力

任何一个人的大脑似乎都不可能以某种方式出现智力爆炸，从而奇迹般地产生远远超出我们所见过的巨大智力。对于那些等待这种可能性的人来说，抱歉，这似乎非常值得怀疑。我遇到过溺爱孩子的父母，他们认为他们心爱的神童会发生这种事。祝你好运。

好吧，那么智力爆炸在哪里有可能发生呢？

啊哈，答案是通过运行人工智能的计算机系统。也许在云服务器上运行的人工智能系统会出现智能爆炸。人工智能将为自身提供燃料并产生大量人工产生的智能。

让我们继续这个概念，看看它会把我们带向何方。

首先，思考一下人工智能智能爆炸将如何发生。一种可能性是人工智能研究人员和人工智能开发人员等人类为这一切的发生提供了火花。他们在那里摆弄人工智能并对其进行调整，当砰的一声，智能爆炸开始了。可以想象，那些工作人员是在知情的情况下故意这样做的，而另一种可能性是它是偶然发生的。有关此问题的进一步评估，请参阅我的讨论：链接在这里。

其次，人工智能可能会自我激发，引发智能爆炸。

也许人工智能有一些嵌入的元素，可能会刺激人工智能的其余部分开始倍增，不断积累基于计算的智能。由于这似乎是我们不希望人工智能自行完成的事情，因此存在各种人工智能遏制技术（请参阅我的报道：链接在这里），并且正在采用许多人工智能人类价值观调整方法（请参阅我的分析：链接在这里）。

第三，令人惊讶的问题是智能爆炸会持续到什么程度。基于人工智能的智能的数量是否没有限制？情报是否会填满所有可访问的计算机服务器并在那时停止扩展？或者人工智能可能会抢占其他计算机服务器（尽可能多地找到）并继续扩展？

服务器限制是否重要，因为智能可能不受底层计算的限制并且可以继续运行？

人工智能奇点就在我们的脑海中

总的来说，这种推测的人工聚焦智能爆炸被称为人工智能奇点。

人们普遍的预感是，人工智能将达到一个临界点，它将开始“爆炸”，变得越来越智能。一些理论认为，人工智能奇点将在最短的几秒钟内发生，发生得如此之快，以至于没有人能够以某种方式看到它的发生。并非所有人都同意这个假设。也许需要几分钟、几小时、几天、几周、几个月、几年、几十年等等。猜测比比皆是。

人类能对人工智能奇点做些什么吗？

这也是一个症结所在。

一种观点是，我们应该放慢人工智能的发展速度，直到我们弄清楚如何处理人工智能奇点。存在禁止某些类型人工智能的政治提案，希望我们不会在不知不觉中陷入人工智能奇点，请参阅我的讨论：链接在这里。

你当然可以想象为什么人工智能奇点会让人类脊背发凉。我们不知道结果会是什么。也许在人工智能奇点之后，我们将拥有能够治愈癌症并拯救人类免于各种疾病的人工智能。一种悲观的观点是，这种人工智能是一种存在风险，毫无疑问会奴役我们或彻底消灭我们。

另一个令人毛骨悚然的问题是我们不确定是否可以阻止它。事情会不会发生得如此之快，让我们措手不及而无法拔掉插头？也许它发生的速度是有节奏的，但我们希望获得所希望的好处，比如帮助人类，所以我们让它继续下去。缺点是人工智能选择装傻来欺骗我们，即所谓的人工智能傻瓜策略（请参阅我的描述：链接在这里），我们让人工智能奇点继续存在，直到人工智能取得强大的接管权。

我们现在处于哪个时代

为了便于讨论，我将奇点分为三个主要的人工智能时代：

• (1) 前奇点人工智能时代。人工智能奇点尚未出现，我们大概正在朝着它迈进。
• (2) 奇点人工智能时代即将来临。人工智能奇点已经开始，我们不知道它会持续多久（瞬时、秒、分钟、天、周、月、年等）。
• (3) 后奇点人工智能时代。在某种程度上，人工智能奇点据说已经大致完成，假设它不是永无止境的，我们发现自己处于后奇点环境中。

我希望您花点时间，给自己喝一杯美酒，然后警惕地坐下来回答我向您提出的下一个问题。

我们现在正处于这三个人工智能奇点时代中的哪一个？

来吧，反思一下，然后大声宣布我们正处于哪个时代。我会等待，谢谢。

我敢打赌大多数人会说答案是我们正处于第一个时代，前奇点。这似乎是显而易见且无可争议的。没有明显的证据表明我们正处于第二个时代，即奇点的进行中，而且，也绝对没有证据表明我们正处于后奇点的终结或第三个时代。

有些人厚颜无耻地声称你的眼睛欺骗了你。

接下来让我们深入探讨这个假设。

模拟理论或假设

事实证明，我们存在于第一时代或前奇点的假定确定性是由于一个相当令人费解的原因——你看，这是因为这就是你被告知要相信的。

砰，放下麦克风。

我们可能都沉浸在人工智能运行的模拟中。人工智能奇点已经发生。然后人工智能建立了一个大规模的模拟来容纳人类。在该模拟中，人工智能让我们都相信人工智能奇点尚未发生。或者，也许邪恶的人类与人工智能结合起来做到了这一点。我想到了很多排列和组合。

这是一个令人难以置信的诡计，你、我和几乎所有人都曾上当。

我猜你的脑海里正在浮现出这部著名电影的想法（剧透警告！）黑客帝国。流行的科幻情节表明，我们并不处于人工智能奇点前的第一时代，而是处于第二或第三时代。去过那里，做过那件事。

也许这是真的。

我听到你在嘲笑。为什么人工智能会让我们制作揭露真相的电影？似乎不合情理。反驳是，通过将其变成虚构的叙述，人工智能希望人类将这一总体前提视为荒谬，仅仅是一个编造的荒诞故事。这样，如果任何人类开始发现人工智能奇点确实发生了，那么那些说人类会被嘲笑为过于富有想象力和愚蠢的科幻发明。

这是一个令人头晕的问题。

山姆·奥尔特曼推文引发风暴

说到旋转的头脑，我们现在可以看看萨姆·奥尔特曼的推文。您可能知道他是 OpenAI 的首席执行官，这家人工智能公司开发了广受欢迎的 ChatGPT。据估计，全球 ChatGPT 的每周活跃用户为 3 亿。这是一个惊人的统计数字。

总而言之，萨姆·奥尔特曼已经成为人工智能现状和人工智能最新进展的非正式代言人。当他说话或写作时，他的话会受到重视。由于 OpenAI 的人工智能是在秘密专有的基础上运作的，因此很难知道他们的人工智能进展情况如何。因此，阅读茶叶（例如山姆·奥尔特曼的推文）是一种普遍的消遣。

2025 年 1 月 4 日，OpenAI 首席执行官 Sam Altman 在 X 上发布了两条单独的推文：

• 上午 10:00 发布：——我一直想写一个六字故事。这里是：奇点附近；不清楚是哪一边。 –
• 上午 10 点 08 分发布：（它应该是关于 1. 模拟假设或 2. 不可能知道起飞的关键时刻何时真正发生，但我喜欢它在很多其他方面也起作用。）Ø

仔细检查这些推文。

您对上述言论有何看法？

对这些言论的一种解释是，我们已经足够接近人工智能奇点，它不再是一个模糊遥远的未来概念。我们大概仍处于第一时代，即奇点之前，但现在正在迎接第二时代。这是我们随时可以掌握的。也许 Sam Altman 在 OpenAI 的 AI 最新技术中看到了一些东西，这促使他真诚地相信 AI 奇点就在下一个拐角处（有多近或多远——几天、几周、几个月、几年？）。

这引起了很大的争议，因为人工智能社区中的许多其他人并没有看到他所看到的一切。对于我们正处于人工智能奇点的风口浪尖，目前还没有达成共识。那么，OpenAI 是否发生了世界其他地方不知道的事情？

如果是这样，Sam Altman 和 OpenAI 是否应该有社会义务让其他人看到人工智能奇点的临近？从本质上讲，前面提到的人工智能奇点具有如此巨大的影响，以至于接近它的公司应该成为人类负责任的公民，并确保人类能够参与预测和应对人工智能奇点。

有关我对人工智能巨大进步的众多人工智能伦理和人工智能法律考虑的报道，请参阅链接在这里。

不清楚是哪一方

另一种解释与第一条推文中的评论有关，该评论表示，我们目前在人工智能奇点方面的立场尚不清楚。好好思考一下。另外，将该评论与有关模拟假设的第二条推文结合起来。

这是可以推断出的结果。

也许我们已经过了第一个时代，已经进入人工智能奇点，甚至可能进入后奇点。也许我们周围的一切都是精心设计的人工智能模拟的一部分。因此，我们现在处于另一边。我们并不处于奇点之前的阶段；我们还处于奇点之前。我们已经超越了那个阶段。

第二条推文后半部分的额外评论是，我们大概不会知道关键时刻何时发生，这似乎进一步巩固了这样一个观点：我们是否接近人工智能奇点的问题是有待争夺的。也许我们是，也许我们不是。我们可能已经溜过了它，但并不知道我们已经做到了。

反应热烈

这两条相当活跃的推文在人工智能社区引起了一场轩然大波，这似乎令人惊讶。一个关键原因是，这个话题总体上已经成为相当严肃的话题，每天都有人担心人工智能的存在风险。一些人对这些言论过于模棱两可并被表述为神秘或谜语感到不安。出来坚定立场，劝诫一下。说出你的意思。别这么神秘。

另一个表达的疑虑是，在人工智能社区中具有如此高地位的人在谈到人工智能奇点时不应该那么随意地挥手。此外，抛开我们不一定知道我们位于奇点的哪一侧这一想法，至少更具体地说明我们是如何存在的接近人工智能奇点。提供切实的直接证据，以便其他人可以仔细检查以判断所提出的主张的真实性。

好吧，你已经看到了，新年伊始的两条推文，以及许多具有挑衅性的人工智能考虑已经在进行中。让我们暂时向受人尊敬的阿尔伯特·爱因斯坦说最后一句话：“向昨天学习，为今天而活，为明天抱有希望。”重要的是不要停止提问。”

是的，确实，随着人工智能的进步，要不断学习、生活和质疑，因为结果将与我们所有人息息相关。