2024-09-18 21:00:20 英文原文

从爱因斯坦的思想实验到人工智能模型的自我纠正能力，基于思想的学习超越人类思维来影响人工智能。

新研究强调了人工智能如何像人类一样通过学习来学习。无需外部输入即可进行解释、模拟、类比和推理。这种按需学习有利于使知识适应新的环境，阐明了自然认知和人工认知之间的相似性和关键差异，为研究人类思维过程和人工智能的潜力和局限性提供了独特的视角。

通过思考学习：人类和人工智能

一些最伟大的发现不仅仅来自观察，还来自思考。爱因斯坦通过思想实验发展了相对论，伽利略通过心理模拟得出了关于引力的见解。9 月 18 日发表在《认知科学趋势》杂志上的一篇评论表明，这种思维过程并非人类独有。人工智能也能够自我纠正，并通过思考学习得出新的结论。

最近有一些演示表明人工智能中的思考学习，特别是在大型语言模型中，说作者塔尼亚·隆布罗佐 (Tania Lombrozo)，普林斯顿大学心理学教授兼自然与人工思维项目联合主任。有时 ChatGPT 会在没有明确告知的情况下自行纠正。这与人们通过思考进行学习时所发生的情况类似。

学习模式：从微波到道德困境

Lombrozo 指出了人类和人工智能通过思考进行学习的四个例子：学习者无需外部输入即可通过解释、模拟、类比和推理来获取新信息。对于人类来说，向孩子解释微波炉的工作原理可能会揭示我们理解上的差距。重新布置客厅的家具通常需要在进行任何物理改变之前创建一个心理图像来模拟不同的布局。下载盗版软件一开始似乎在道德上是可以接受的，直到有人将其与盗窃实物商品进行类比。如果您知道朋友的生日是闰日，并且明天是闰日，您可以推断出您朋友的生日是明天。

人工智能显示了类似的学习过程。当被要求详细说明一个复杂的主题时，人工智能可能会根据它提供的解释来纠正或完善其最初的响应。游戏行业使用模拟引擎来近似现实世界的结果，模型可以使用模拟的输出作为学习的输入。要求语言模型进行类比可以使其比简单问题更准确地回答问题。促使人工智能进行逐步推理可以使其得到直接查询无法得出的答案。

探索基于思维的学习的功能和价值

这就提出了为什么自然思维和人工思维都具有这些特征的问题。思考学习有什么作用？为什么它有价值？隆布罗佐说。我认为通过思考来学习是一种按需学习。

当你学习新东西时，你不知道这些信息将来如何为你服务。Lombrozo 表示，人们可以将知识留到以后使用，直到上下文使其相关且值得花费认知努力来思考和学习。

认知科学和人工智能的未来方向

Lombrozo 承认定义推理、学习和其他高级认知功能之间界限的挑战，这是认知科学领域争论的一个领域。此次审查还提出了更多问题，其中一些问题 Lombrozo 计划进一步探索，例如人工智能系统是否真的在思考或只是模仿此类过程的输出。

人工智能已经发展到了如此复杂的地步隆布罗佐说，在某些方面，但在其他方面，我们有机会研究人类和人工智能之间的异同，但在其他方面受到限制。我们可以通过人工智能了解有关人类认知的重要知识，并通过将其与自然思维进行比较来改进人工智能。这是一个关键时刻，我们处于这个新的位置，可以提出这些有趣的、比较性的问题。

参考：Tania Lombrozo 的《通过在自然和人工思维中思考来学习》，2024 年 9 月 18 日，认知科学趋势。
DOI：10.1016/j.tics.2024.07.007