AGI 的到来比我们想象的要快——我们现在就必须做好准备

人工智能领域的领军人物，包括 Anthropic 的 Dario Amodei 和 OpenAI 的 Sam Altman，表示“强大的人工智能”甚至超级智能可能会在未来 2 到 10 年内出现，从而可能重塑我们的世界。

在他最近的文章中慈爱机器阿莫迪对人工智能的潜力进行了深思熟虑的探索，表明强大的人工智能——其他人称之为通用人工智能 (AGI)——最早可以在 2026 年实现。智能时代，奥特曼写道，“我们有可能在几千天内拥有超级智能”（或到 2034 年）。如果他们是正确的，那么在未来两到十年的某个时候，世界将会发生巨大的变化。

作为人工智能研究和开发领域的领导者，Amodei 和 Altman 站在突破可能性的最前沿，使他们的见解在我们展望未来时特别具有影响力。阿莫代定义强大的人工智能“在大多数相关领域（生物学、编程、数学、工程、写作）都比诺贝尔奖获得者更聪明……奥特曼在他的文章中没有明确定义超级智能，尽管人们认为人工智能系统在所有领域超越人类的智力能力。 

并非所有人都同意这个乐观的时间表，尽管这些不太乐观的观点并没有浇灭科技领导者的热情​​。例如，OpenAI 联合创始人 Ilya Sutskever 现在是 Safe Superintelligence (SSI) 的联合创始人，这是一家致力于通过安全第一的方法推进人工智能的初创公司。什么时候宣布去年 6 月的 SSI 上，Sutskever 表示：“我们将一心一意、一个目标、一款产品，一刀切地追求安全的超级智能。”一年前谈论人工智能的进步当他还在 OpenAI 时，他指出：“这将是具有里程碑意义的、惊天动地的。”会有一个之前和一个之后。” 在 SSI 的新职位上，Sutskever 已经筹集了十亿美元为公司的努力提供资金。

这些预测与埃隆·马斯克 (Elon Musk) 的估计一致，即到 2029 年人工智能将超越全人类。马斯克最近说人工智能将能够在未来一两年内做任何人类能做的事情。他补充说，人工智能将能够在未来三年内（即 2028 年或 2029 年）完成所有人类所能完成的任务。这些预测也与未来学家 Ray Kurzweil 的长期观点一致，即 AGI 将在 2029 年实现。早在 1995 年就做出了这一预测，并在这本 2005 年畅销书中写到了这一点， –奇点临近. – 

迫在眉睫的转型

由于我们正处于这些潜在突破的边缘，我们需要评估我们是否真正为这一转变做好了准备。无论准备好与否，如果这些预测是正确的，一个全新的世界很快就会到来。 

今天出生的孩子可能会在一个被通用人工智能改变的世界里进入幼儿园。AI护理人员还会远吗？突然间，《石黑一雄》中的未来主义愿景出现了。克拉拉和太阳——对于那些到了青少年时期的孩子来说，拥有一个机器人虚拟朋友似乎并不那么牵强。人工智能伴侣和护理人员的前景表明，世界将发生深刻的道德和社会转变，这可能会挑战我们现有的框架。

除了伴侣和照顾者之外，这些技术的影响在人类历史上是前所未有的，既带来了革命性的希望，也带来了生存风险。潜在的好处可能来自强大的人工智能是深刻的。除了机器人的进步之外，这还可能包括开发癌症和抑郁症的治疗方法，以最终实现聚变能源。有些人认为即将到来的时代是丰富的时代人们拥有新的创造力和联系机会。然而，从巨大的失业和收入不平等到失控的自主武器，看似合理的负面影响也同样严重。 

在短期内，麻省理工学院斯隆管理学院首席研究科学家安德鲁·麦卡菲 (Andrew McAfee) 认为人工智能将增强而不是取代人类的工作。在最近的一次枢轴播客他认为，人工智能可以按需提供“一支由职员、同事和教练组成的大军”，尽管它有时会承担“大量”工作。 

但这种对人工智能影响的衡量观点可能会有结束日期。埃隆·马斯克说从长远来看，“我们可能没有人会找到工作。”这种鲜明的对比凸显了一个关键点：无论人工智能的能力和影响如何，到 2024 年，在 AGI 世界中，人工智能的能力和影响可能会截然不同这可能只需要几年的时间。

调整期望：平衡乐观与现实

尽管有这些雄心勃勃的预测，但并不是所有人都认为强大的人工智能即将出现或其影响将如此直接。深度学习怀疑论者加里·马库斯（Gary Marcus）一段时间以来一直警告说，当前的人工智能技术不具备通用人工智能的能力，认为该技术缺乏所需的深度推理技能。众所周知，他针对马斯克最近关于人工智能很快就会比任何人类都聪明的预测，提出了 100 万美元来证明他是错误的。

Linus Torvalds，Linux 操作系统的创建者和首席开发人员，最近说他认为人工智能将改变世界，但目前“90% 是营销，10% 是现实”。他表示，就目前而言，人工智能可能更多是炒作而不是实质内容。

或许托瓦尔德的断言是可信的新纸OpenAI 展示了他们领先的前沿大语言模型 (LLM)，包括 GPT-4o 和 o1，努力回答有事实答案的简单问题。该论文描述了一种新的“SimpleQA”基准，用于衡量语言模型的真实性。表现最好的是 o1-preview，但它对一半的问题给出了错误的答案。 

展望未来：为人工智能时代做好准备

对人工智能潜力的乐观预测与该技术的现状形成鲜明对比，如 SimpleQA 等基准测试所示。这些限制表明，虽然该领域正在快速发展，但需要一些重大突破才能实现真正的通用人工智能。 

尽管如此，那些最接近正在发展的人工智能技术的人预见到了快速的进步。在最近的一次硬分叉播客，OpenAI 前 AGI 准备高级顾问迈尔斯·布伦戴奇说：“我认为大多数知道自己在谈论什么的人都同意 [AGI] 将会很快消失，这对社会意味着什么，甚至是无法预测的。”布伦戴奇补充道：““我认为大多数人的退休生活会比他们想象的更早到来……”

阿马拉定律由斯坦福大学的罗伊·阿马拉于 1973 年提出，该定律指出，我们经常高估新技术的短期影响，而低估其长期潜力。虽然 AGI 的实际到来时间表可能与最激进的预测不符，但它的最终出现（也许只需要几年）可能会比今天的乐观主义者想象的更深刻地重塑社会。 

然而，当前的人工智能能力与真正的通用人工智能之间的差距仍然很大。考虑到所涉及的利害关系——从革命性的医学突破到生存风险——这种缓冲是有价值的。它提供了制定安全框架、调整我们的机构并为从根本上改变人类经验的转型做好准备的关键时刻。问题不仅在于通用人工智能何时到来，还在于我们是否为此做好了准备。

加里·格罗斯曼 (Gary Grossman) 是以下公司的技术实践执行副总裁爱德曼爱德曼人工智能卓越中心的全球领导者。