AI真的可以想到吗？
作者：Online: Purposewithoutgod.com: website for the book, articles, videos, podcasts
这是一个5部分博客系列的第5部分，内容涉及了解认知的令人惊讶的难以捉摸的结构，并探索其与意识的关系。在第1部分我们考虑了认知的一些一般定义1以及它与情感，，，，智力（以初步的方式）意识。零件2，，，，3和4，我们认为约瑟夫·莱杜克斯（Joseph Ledoux）和金斯堡（Ginsburg）和贾布隆卡（Jablonka）的生活或非生活系统的新较新，更具体和多层的标准，以符合认知的资格，除此之外，还可以作为有意识的代理。在第5部分中，我们将进一步探讨对AI的影响。
人工智能（AI）达到了显着的高度。AI系统可以诊断疾病，玩复杂的策略游戏，飞行员自动驾驶汽车，撰写论文，生成代码和模仿流利性。但是这些壮举算作认知吗？AI可以意识到吗？
如第1部分所述，认知可以广泛定义为获取，过程和使用信息来指导行为的过程。根据这个基本定义，许多AI系统符合认知能力。意识，通常被定义为某种形式的主观体验/意识的能力，显然是一个更高的标准，即使对于最少的意识来说，也是一个更高的条形。
但是，AI系统是否保证被视为真正认知的问题仍然是一个辩论问题。为了说明这一点，让我们比较Ledoux与Ginsburg和Jablonka的框架。
评估AI的认知和意识
在本系列中，我们考虑了两个基于进化的框架，以构建有关认知和有意识的内容的辩论：基于模型的定义以及Ginsburg和Jablonka基于学习的定义。
Ledoux的框架
Ledoux将认知定义为构建和使用内部心理模型的能力；他区分了三个系统非认知习惯/反射（系统1），无意识基于模型的控制（系统2）和有意识的审议认知（系统3）。
通过Ledoux的严格标准内部心理模型，使代理商可以灵活地指导其行为的大多数AI低于认知的阈值（一些研究系统建立了狭窄的预测模型，但这些模型却差一点远远落后于莱杜克斯（Ledoux）的观点，基础认知和较高层次的较高意识的可能性。
金斯堡和贾布隆卡的框架
Ginsburg和Jablonka比Ledoux采取了更广泛的视野，将认知定义为“实现价值敏感，编码，评估，存储，检索，检索，解码和传输的系统性过程”。2按照此标准，大多数AI系统都将符合认知能力。
但要实现无限的协会学习（UAL）标志着最小意识的阈值的能力？当前的AI系统错过了UAL的标志。他们可以可靠地处理新的模式，跨时间差距学习，灵活地调整条件变化时重要的内容，或者建立允许转移和分类的学习分层链。 他们还缺乏赋予其力量的跨模式，持久，价值敏感的表示，仅显示这些能力的狭窄，工程的瞥见。3,4
学习差距
在第4部分，我们认识到学习认知的中心地位。动物通过反复试验，探索和寻求奖励，与他们的需求，情感和体现结合在一起，通过反复试验，探索和寻求回报。
大多数AI系统在两个不同的阶段学习：在广泛的数据集中进行计算密集的预训练，然后将其部署带有冷冻参数。这与生物生物的连续终身学习形成鲜明对比。导航不断变化的迷宫的老鼠会根据新信息和奖励模式连续调整。
当前的人工智能系统遭受“灾难性遗忘”5-7``学习新信息会严重破坏以前学习的知识的严重干扰。生物系统通常通过专业机制避免的挑战。8这就是AI研究人员说大多数AI缺乏的原因持续学习容量。9,10
接地问题
尽管能力令人印象深刻，但目前的AI仍缺乏真正的世界理解。正如Meta的Yann Lecun在2024年10月指出的那样，世界模型是“人类级AI的关键”，但可能已经有十年了。11AI处理没有语义接地的符号 - 猫通过追逐它们来了解鸟类，孩子们通过溅起水来了解水。
人工智能必不可少的
没有身体或感觉运动系统，AI缺乏通过与世界的物理互动将符号与意义联系起来的体现接地。12正如哲学家约翰·塞尔（John Searle）在他的中国房间思想实验中所说的那样，句法符号操纵遵循操纵符号的规则并不一定会对这些符号含义的语义理解。13动物通过积极的环境参与发展认知，一种动态的感知，预测和行动，即AI当前无法复制。14
生物要求
阿尼尔·塞斯（Anil Seth）认为，应该通过生物自然主义，，，，15精神状态受生存需求塑造的地方。生物认知通过与稳态需求，情感，16和自我调节。相比之下，AI模型在没有这种以生存为导向的框架的情况下运行，它们为指定的目标而不是自我维护和适应进行了优化。
最近的一些工作表明，意识可能取决于“致命”计算。相比之下，标准AI依赖于“不朽的”计算：通过恒定误差校正在硬件上相同运行的算法，这与特征生物湿软件的衰减和修复类型隔离。17,18
AI与生物认知的不同
动物在结构丰富的多模式环境中学习，并灵活地重新申请知识。当面对数据与培训不同的数据时，AI系统经常在“分布之外的失败”中遇到较差的性能，因为它们锁定在表面统计提示上，而不是反映出对世界的真实理解和建模的更深层次的模式。19
除了这些基本的生物学品质之外，当前的AI系统无疑缺乏人类认知特征的最高形式。他们不知道自己知道。他们不会以自我意识反思自己的行为。他们缺乏支持的内心生活元认知和内省。20
当前的AI系统是出色的信息处理器，但它们在不同的认知类别中运行，基本上主要依赖于复杂的统计模式匹配。21它们的认知结构与生物系统的根本不同，不仅在实施方面，而且在功能与生命物质的深刻整合中。22,23
有意识的AI？
正如整个系列中所指出的那样，认知和意识不是同一回事。当前的LLM和其他AI给人的印象是有意识的印象，但这仅仅是因为它们擅长模仿人类的对话。大多数专家对AIS完全有意识仍然高度怀疑，警告他们的行为只是创造了意识的幻想。24
但是，如果AIS或更有可能具有体现AI的机器人可以设计用于使用内部模型来使用Ledoux定义认知的方式（尤其是如果它们具有系统3认知能力），那么它们很可能会变得有意识。或者，也许它们可能至少变得微不足道的意识，就像多种动物可以说是根据金斯堡和Jablonka的标准，如果它们变得能够真正无限的联想学习。通过Ledoux的定义，充分意识将需要元代表和叙事自模型。
我们是否应该想设计意识AI的问题完全是另一个问题，考虑到AI开发的迅速速度，我们甚至有时间和机会进行这种考虑。人工智能可能无意间发展意识的可能性不能完全被忽视。
我们珍视的
该领域的主要研究人员承认，弥合我们在实现人类水平的AI时所发现的差距25知识的灵活转移仍然是基本研究的活跃领域。系统是否会完全复制动物的综合，面向生存的认知仍然是一个悬而未决的问题。实现这一目标的困难突出了比最初看起来更复杂的认知要多。
我们在本系列中探索的框架提醒我们，我们价值的认知类型不仅仅是信息处理，而且还依赖于计算能力。它是在世界和更高层面上驾驭和生存的体现能力，以了解世界……以及在可能的情况下预测接下来会发生什么。而且，有了某些已知的成分，有些仍然存在神秘的成分。26
参考
1。当今的心理学认知页面解释说，认知的意思是思考，但有关更精细的定义，请参见第1部分，以及第2-4部分，有关更具体的多层标准。
2。Jablonka，E。和Ginsburg，S。（2025年）认知变得有意识：一种进化方法（未出版的手稿为“自然意识”会议准备，加拉帕戈斯群岛，2025年6月11日18日）。
3。如在第4部分，丹内特（Dennett）的生成和测试塔有助于构成界限：大多数系统仍然是Skinnerian的反复试验学习者，并有一些朝着Popperian的预测方面的预测，但还没有显示出培养文化思维的Gregorian飞跃。
4。价值敏感性或价值是至关重要的情绪的演变。完全缺乏情绪系统是AI系统缺少的核心因素。
5。GidoM. Van de Ven，Nicholas Soures和Dhireesha Kudithipudi，持续学习和灾难性遗忘，arxiv（预印本），2024年3月8日，https://arxiv.org/html/2403.05175v1。6。HaithamGhallab，Mona Nasr和Hanan Fahmy，“减轻基于梯度的方法来减轻灾难性的遗忘：文学评论，
国际高级计算机科学与应用杂志16，不。4（2025）：120-130，https://doi.org/10.14569/ijacsa.2025.0160414。7。经常在稳定性的难题中讨论灾难性的遗忘 - 平衡记忆保留与持续学习的挑战。
8。受海马和皮层连接的脑电路启发的AI系统表明，通过将详细记忆与更多的一般知识相结合以避免忘记，可以更连续学习。
[Qianqian Shi等人，《由Corticohampocampal电路启发的连续学习的混合神经网络》，自然通讯16（2025）：1272，https://doi.org/10.1038/s41467-025-56405-9]。
9。G.I. Parisi，R。Kemker，J。L。Part，C。Kanan和S. Wermter，《神经网络的持续终身学习：评论：神经网络113（2019）：54â71，https://doi.org/10.1016/j.neunet.2019.01.012。10。大多数部署的LLM都不会在线更新其参数，并且由于灾难性遗忘而稳健的持续学习仍然是一个开放的挑战[van de ven，soures和kudithipudi，
持续学习和灾难性遗忘]。11。麦克斯韦·泽夫（Maxwell Zeff），元主管说，世界模型是人类级的关键，但可能已经10年了。
TechCrunch，2024年10月16日，https://techcrunch.com/2024/10/10/16/metas-ai-chief-says-world-models-models-eke-key-to-human-lean-level-level-ai-but-it-but-it-be-be-be-be-be-be-be-be-be-be-be-be-be-be-be-be-be-be-be-be-be-be-be-be-be-10-。12。GiulioSandini，Alessandra Sciutti和Pietro Morasso，“人工认知与下一代自动机器人机器人代理人的人工智能，”
计算神经科学领域18（2024）：1349408，https://doi.org/10.3389/fncom.2024.1349408。13。JohnR. Searle，
思想，大脑和科学：1984年的讲座（马萨诸塞州剑桥：哈佛大学出版社，1984年）。14。Sandini，Sciutti和Morasso，“人工认知与人工智能”。
这些作者还指出，就像人类婴儿通过相互的社会互动发展认知一样，更复杂的AI也可能需要丰富的社交参与度，不仅是从数据中，而且从合作交流，手势和与他人共享的目标中学习。
15。Seth，A。K.（2024）有意识的人工智能和生物自然主义。OSF预印本，2024年12月10日，https://doi.org/10.31234/osf.io/tz6an。16。正如脚注＃4所述的情感，它是从原始价系统和
稳态的命令在动物中是AI缺乏关键因素。17。Seth，
有意识的人工智能和生物自然主义。18.生活系统不断再生自己的物质基础“自动植物”，而AI系统（例如计算机和工厂）仅处理输入而不会产生自己。19。RobertGeirhos等人，深神经网络中的快捷方式学习
自然机器智能
2，不。11（2020）：665 - 73，https://doi.org/10.1038/s42256-020-00257-z。本文介绍并分析了快捷方式学习的概念，以此作为许多令人惊讶和不直觉的深层神经网络案例的统一解释。20。当前的AI系统也缺乏社会认知（例如，“思想理论”） - 他们可以很好地模仿它，但缺乏真正的社会理解。
21。就LLMS而言：关于语言的复杂模式匹配和统计推论，以预测基于培训数据中统计模式的可能单词序列，而不是从对世界的基础理解中汲取灵感。
22。Seth，
有意识的人工智能和生物自然主义。23。与当前AI相比，进化选择压力也具有明显的节能效率。24. Patrick Butlin等人，《人工智能中的意识：意识科学的见解》，
预印本
，Arxiv（2023年8月），https://doi.org/10.48550/arxiv.2308.08708;Yoshua Bengio和Eliezer Elmoznino，《 AI意识的幻想》，科学389，没有。6765（2025）：1090 - 91，https://doi.org/10.1126/science.adn4935。25。在AI中，世界模型通常是一种预测系统，该系统在给定的任务或环境中预测未来状态，重点是模式识别。
Ledoux的内部模型（心理模型）也具有预测功能，但更丰富：由感觉和存储的信息构建的体现，基于内存的模拟。
26。这是一个非常快速的领域。这篇博客文章代表了截至撰写本文时的发展状态（2025年10月），这是我作为一个观察者的理解，具有神经科学的基础，但在AI中没有特殊的专业知识。AI受雇于协助本文的研究，在此过程中，它再次揭示了其出色的优势和令人讨厌的缺陷。绝对需要一个人。
关于《AI真的可以想到吗？》的评论
暂无评论