人工智能以“赢家通吃”的方式模仿新皮质计算

2024-10-25 13:00:01 英文原文
A new approach that realistically mimics neocortex computations using AI
图片来源:伊克巴尔等人。

在过去十年左右的时间里,计算机科学家开发出了越来越先进的计算技术,能够以与人类相当的精度来处理现实世界的任务。虽然许多人工智能 (AI) 模型取得了显着的成果,但它们通常无法精确复制人脑执行的计算。

Tibbling Technologies、哈佛医学院博德研究所、澳大利亚国立大学和其他机构的研究人员最近尝试使用人工智能来模仿新皮质电路执行的特定类型的计算,即“赢者通吃”计算。

他们的论文,发表生物Rxiv预印本服务器报告了该计算的成功模拟,并表明将其添加到基于变压器的模型可以显着提高其在图像分类任务上的性能。

该论文的第一作者阿西姆·伊克巴尔 (Asim Iqbal) 告诉 Tech Xplore:“我们最近的论文受到哺乳动物大脑令人难以置信的计算能力的启发,特别是新皮质。”

“我们的主要目标是从大脑处理信息的方式中汲取灵感,并应用这些原则来改进系统。具体来说,我们专注于一种称为“赢者通吃”的计算,这似乎是皮质回路中的基本操作。”

“赢者通吃”是一种生物机制,当一组中的一个或几个神经元(即具有最高激活水平的一个或多个)影响计算结果时,就会发生这种机制。更活跃的神经元本质上抑制其他神经元的活动,成为唯一有助于特定决策或计算的细胞。

伊克巴尔和他的同事试图使用神经形态硬件真实地模拟这种生物计算,然后用它来提高成熟的机器学习模型的性能。为此,他们使用了 IBM 的 TrueNorth 神经形态硬件芯片,该芯片是专门为模仿大脑的组织而设计的。

A new approach that realistically mimics neocortex computations using AI
从大脑捕获基于生物的 WTA 计算 (A),以设计神经状态机 (B),并将其转换到 IBM 的 TrueNorth 神经拟态硬件芯片 (C) 上,并将 WTA 实现为 AI 架构中的神经层 (D)。图片来源:伊克巴尔等人。

“我们的生物物理网络模型旨在捕捉新皮质回路的关键特征,重点关注兴奋性神经元和四种主要类型的抑制性神经元之间的相互作用,”伊克巴尔解释道。

“该模型结合了通过实验测量的这些神经元的特性及其在视觉皮层中的连接。其关键特征是能够实现‘软赢家通吃’计算,其中最强的输入被放大,而较弱的输入被抑制。”

通过执行这些受大脑启发的计算,该团队的方法可以增强重要信号,同时滤除噪音。他们的 NeuroAI 系统的主要优势在于,它引入了一种新的基于生物学且计算高效的方法来处理视觉信息,这有助于提高人工智能模型的性能。

“我们最激动人心的成就之一是在 IBM TrueNorth 神经拟态芯片上成功实施了我们的类脑计算,”Iqbal 说道。

“这表明我们可以将神经科学的原理转化为真正的硬件。当我们采用赢家通吃的启发处理时,我们也很高兴看到 Vision Transformers 和其他深度学习模型的性能有了显着提高。例如,这些模型能够更好地泛化他们尚未接受过培训的新型数据——这是人工智能领域的一个关键挑战。”

伊克巴尔和他的同事将软赢家将使用他们的方法执行的所有计算与基于视觉转换器的模型结合起来。他们发现,他们的方法通过零样本学习显着提高了模型在完全“不可见”数据的数字分类任务上的性能。

未来,他们的类脑计算方法可以应用于其他人工智能系统,实现广泛的应用,包括计算机视觉、医学图像分析和自动驾驶汽车。与此同时,研究人员计划研究如何利用支持他们的方法的相同大脑启发原理来解决更复杂的认知任务。

“我们对使用我们的方法实现工作记忆和决策过程特别感兴趣,”伊克巴尔补充道。

“我们还计划研究如何整合受大脑启发的学习机制,这可能会导致人工智能系统能够更有效地学习和适应。此外,我们热衷于在其他新兴的神经形态硬件平台上测试我们的方法,以进一步桥接神经科学和人工智能之间的差距。”

更多信息:Asim Iqbal 等人,在神经形态硬件上实现的新皮质的生物学真实计算原语提高了视觉变压器的性能,生物Rxiv(2024)。DOI:10.1101/2024.10.06.616839

© 2024 Science X 网络

引文:AI 通过“赢家通吃”的方法模仿新皮质计算(2024 年,10 月 25 日)检索日期:2024 年 10 月 25 日来自 https://techxplore.com/news/2024-10-ai-mimics-neocortex-winner-approach.html

本文档受版权保护。除了出于私人学习或研究目的的任何公平交易外,不得未经书面许可,不得复制部分内容。所提供的内容仅供参考。

关于《人工智能以“赢家通吃”的方式模仿新皮质计算》的评论


暂无评论

发表评论

摘要

该团队提出的 NeuroAI 框架:将神经生物学与神经形态硬件和视觉变压器融合。Tibbling Technologies、哈佛医学院博德研究所、澳大利亚国立大学和其他机构的研究人员最近尝试使用人工智能来模仿新皮质电路执行的特定类型的计算,即“赢者通吃”计算。他们的 NeuroAI 系统的主要优势在于,它引入了一种新的基于生物学且计算高效的方法来处理视觉信息,这有助于提高人工智能模型的性能。例如,这些模型在泛化它们未受过训练的新型数据方面变得更加出色——这是人工智能的一个关键挑战。”除了以私人学习或研究为目的的任何公平交易之外,没有未经书面许可,不得复制部分内容。该团队提出的 NeuroAI 框架:将神经生物学与神经形态硬件和视觉变压器融合。