弥合智慧的差距：元认知作为人工智能的下一个前沿

在今天的专栏中，我研究了对一种难以捉摸的元素的追求，这种元素被认为对人工智能的进一步发展至关重要。该元素可能是什么？

元认知。

具体来说，就是机器元认知。

事情是这样的。人工智能科学家假设，我们需要确保人工智能本质上能够思考。一个热切的坚持是，如果没有机器元认知的外表，人工智能就不会达到智慧或展现智慧的水平。否则，只有拥有基于大脑的人类元认知的人类才能成为智慧的唯一守护者。

我们来谈谈吧。

对创新命题的分析是我正在进行的 Forbes.com 专栏报道的一部分，内容涉及人工智能的最新进展，包括识别和解释各种有影响力的人工智能复杂性（请参阅链接在这里）。你们中那些对人工智能能够思考的人特别感兴趣的人，例如人工智能和心理理论（ToM），可能想阅读我的分析：链接在这里和链接在这里。

确定元认知和心理力量

毫无疑问，大多数人都会同意《尤达》这个角色星球大战是明智的，体现了智慧。我们怎么知道尤达有这种惊人的能力呢？尤达的一个明显或可区分的特征是利用并热衷于展示元认知的能力。按照尤达的名言，我们应该说不谦虚的话 - - 平庸，但我的想法不是。 -

对于日常人类来说，元认知包括能够思考自己的想法。你对自己所知道的事情进行内省。当你对某件事不确定时，你就会意识到你确实不确定。此外，你寻求明智地应对知识的缺乏。

一些人声称，元认知或至少是更高水平的元认知是我们与动物的区别。您猜狗或猫有多少元认知？好吧，也许他们有一些，但肯定无法与人类相提并论。一个厚颜无耻的愤世嫉俗的说法是，你知道一些宠物似乎确实超出了你所认识的愚蠢人类的元认知。

砰，放下麦克风。

当然，即使是人类似乎也具有不同水平的元认知。有些人敏锐地了解自己所知道的事情，并根据心理考虑和令人费解的体操迅速采取行动。其他人则没有表现出相同的元认知能力。

您可能熟悉这句老话：每个人说话前都应该三思而后行。从某种意义上说，这是元认知的参考。如果你用你的头脑意识到你需要在说话之前思考，那么你就在锻炼一点元认知。没有人会告诉你这样做，相反，你的头脑会相应地建议你。

以下是可能出现的三种思维状态：

• (1) 说话之前先三思。事先考虑一下一旦你开始说话，你的思维过程将包括哪些内容。
• (2) 说话时思考。在说话的过程中，你的大脑会评估你的想法，并可能相应地改变方向。
• (3) 说完之后想一想。评估你在演讲时发生的想法，并利用这种反思来调整你前进的思维过程。

总而言之，有人断言，要获得智慧或拥有智慧，一个必要的要素就是元认知。元认知并不是唯一需要的元素，但如果没有元认知，智慧很可能遥不可及。并不是每个人都同意这个假设，我确信一些人工智能和认知研究人员会整天就这个问题激烈争论。

生成式人工智能和法学硕士需要机器元认知

当你与当代生成人工智能和大型语言模型（例如 ChatGPT、Claude、Gemini、Llama 等）交互时，它们几乎没有元认知。他们没有考虑思考。

顺便说一句，我不喜欢在提到人工智能时使用“思考”这个词，因为这意味着今天的人工智能的行为方式与人类思维相同。这是人工智能的不幸拟人化。遗憾的是，世界似乎接受在讨论人工智能能力时使用“思考”这个词，因此，我在这里也很不情愿地这样做。悲伤的脸。

对于元认知也会产生同样的疑虑。据说人类体现了元认知。在描述人工智能时，有些人不使用单独的词“元认知”，而是更愿意规定我们的目标是设计“机器元认知”。我们的想法是，通过在用语前面加上“机器”一词，我们可以说人工智能的元认知不一定与人类的元认知相同。这只是一种方便的类似的表达方式。

接下来我想向大家展示两个关于人工智能和机器元认知的例子。

第一个示例旨在展示不具有机器元认知的生成式人工智能，其次是似乎具有机器元认知的人工智能的第二个示例。这些示例将有助于说明高度概念化的主题。

首先，这是一段人工智能没有表现出元认知的对话。

• 用户输入提示：“你认为我35岁转行的决定明智吗？”
• 生成式人工智能响应：– 35 岁时转行可能是一个明智的决定。许多人在 30 多岁时改变职业，是为了追求更充实的事情或提高财务稳定性。这可能是一个成长和新体验的机会，特别是如果它符合您的热情和目标。此外，就业市场越来越支持职业转变，因此这可能对您有利。”

好吧，人工智能的反应看起来很简单。Generative AI 建议用户在 35 岁时转行是可以的。期间，故事结束。

AI 展示机器元认知的示例

我们准备好深入研究第二个例子。

让我们从同样的问题开始，看看会发生什么。

• 用户输入提示：“你认为我35岁转行的决定明智吗？”
• 生成式人工智能响应：——这是一个重要的问题，职业转变可能有很多个人因素。我可以提供一般信息，但如果不了解您的具体情况，我的回复可能会错过关键的细微差别。如果我专注于在人生的这个阶段转换职业的一般利弊，会有帮助吗？或者您想探索一些更具体的东西吗？
• 用户输入提示：“我最担心的是离开一份稳定的工作，以及我是否会后悔。”
• 生成式人工智能响应：——这是有道理的，而且这种感觉是很自然的。职业稳定性可以令人安心，而离开未知的道路可能会引发很多不确定性。如果我能够进行更深入的自我评估，我会说这是一个个性化的、背景丰富的指导通常最有帮助的主题。我的信息基于一般模式，可能无法完全满足您的独特情况。然而，据我所知，许多转行的人发现，如果他们清楚自己改变职业的原因，最初的恐惧会随着时间的推移而减少。

仔细查看响应并将其与第一个示例进行比较。

在第一个例子中，你可能会说人工智能只是脱口而出一个答案，说换职业完全没问题。这个建议没有任何警告的语气或建议。

第二个例子走向了不同的方向。人工智能似乎承认其局限性，指出所提供的建议可能缺乏相关性和深度。人工智能还表示，人工智能的答案相当笼统，需要进行更深入的对话才能获得更具体的答案。

就好像人工智能正在反思它所知道的内容以及对其所知道的内容和对用户所说的内容的信心程度。这表明某种形式的机器元认知正在发挥作用。

识别机器元认知类别

一般来说，人工智能和机器元认知属于三个潜在类别之一：

• (1) 机器元认知的缺失。人工智能没有机器元认知，虽然从外表上可能不容易辨别，但最终的反应往往反映出这种能力的缺乏。
• (2) 模拟机器元认知。人工智能被要求模拟机器元认知，并提供尽可能令人信服的指示，即使该功能并未主动内置。
• (3)内置机器元认知。人工智能从一开始就被设计为具有机器元认知，而结果生动地展示了这种能力。

总的来说，可以公平地说，当今的大多数人工智能都属于第一类，即缺乏机器元认知。

其中，您可以让其中一些在类别 #2 中执行，以便它们模拟机器元认知，但模拟效果明显不同，并且您可能会得到二手的或有时平庸的事物外观。

第三类需要构建机器元认知，目前通常用于实验和研究目的。这些努力还处于起步阶段，要彻底解决这个问题，我们还有很长的路要走。

机器元认知的最新研究

由于最近发布的一项研究，我很高兴讨论这个话题，该研究涵盖了这个快速发展的领域。我在研究中同意某些方面，而另一些方面我有不同的观点。这就是这里成为一个令人兴奋的舞台的原因。对于那些有兴趣在人工智能进步中寻求新领域的人来说，这里充满了机会。

Samuel G. B. Johnson、Amir-Hossein Karimi、Yoshua Bengio、Nick Chater、Tobias Gerstenberg、Kate Larson、Sydney Levine、Melanie Mitchell、Iyad Rahwan 撰写的题为“想象和构建智能机器：AI 元认知的中心性”的研究，伯恩哈德·舍尔科普夫，伊戈尔·格罗斯曼，arXiv，2024 年 11 月 4 日，提出了以下要点（摘录）：

• – 人工智能 (AI) 的最新进展已经产生了能够在认知任务上执行日益复杂的性能的系统。 –
• 然而，人工智能系统仍然在关键方面陷入困境：不可预测和新颖的环境（鲁棒性），推理缺乏透明度（可解释性），在沟通和承诺方面面临挑战（合作），并因潜在有害的行为而带来风险（安全）).—
• – 这些失败似乎是更广泛的问题的征兆元认知近视，这导致 GenAI 模型不必要地重复自身，对信息源的质量评估不佳，并且过于重视原始数据而不是更微妙的准确性线索。
• – 对于人类来说，元认知策略（例如认识到自己知识的局限性、考虑不同的观点以及适应环境）对于做出明智的决策至关重要。我们认为，将元认知能力集成到人工智能系统中对于增强其稳健性、可解释性、合作性和安全性至关重要。
• – 类似地，人工智能元认知是指对自己的计算进行建模并使用该模型来优化后续计算的能力。 –

他们朗朗上口的短语元认知近视（在上面的第三个要点中）是一个很好的选择，因为它轻松地解决了目前很少有人工智能具有机器元认知的问题。我们至少需要推动我的模拟机器元认知类别#2，甚至更应该推动我的类别#3，即从一开始就内置功能。

机器元认知即将到来

您也可以处于人工智能的前沿。

是的，加入对机器元认知的热切追求。一些人断言，除非我们确定了这种能力，否则我们无法实现通用人工智能 (AGI)。其他人则担心，如果我们确实设计出机器元认知，这样做将会导致我们陷入人工智能的滑坡，成为人类的生存风险，请参阅我对此主张的分析：链接在这里。

一个转折点是，也许用机器元认知设计的人工智能可以将我们从人工智能中拯救出来，否则人工智能会选择奴役或毁灭我们。其逻辑是，如果机器的元认知能力很强，它将有助于防止自身和其他可能的人工智能走上破坏性的道路。从这个角度来看，机器元认知是必须的。我们必须走这条路，否则我们可能就注定失败。

仔细考虑一下。

我现在要对尤达说最后一句话：“你还有很多东西要学。”

明智的话。