2024-09-16 10:30:00 英文原文
液体神经网络比主流人工智能更小、适应性更强
这是为期一年的系列故事中的另一个故事，这些故事阐述了人工智能的蓬勃发展如何影响我们的生活以及我们可以改变的方式努力使这些影响尽可能有益。
Ramin Hasani 通过显微镜观察一条蠕动的微小蠕虫。令人着迷，他想。后来，他会说，“它的移动能力比我们拥有的任何机器人系统都好。”
这种微小的蠕虫有一个更小的大脑，但它可以轻松移动和探索。它的大脑现在激发了哈萨尼和他的团队开发一种新型人工智能。
他们称之为液体神经网络。
在蠕虫大脑和人类大大脑中，称为神经元的细胞通过称为突触的连接相互连接。它们形成了处理思想和感觉的互连网络。
ChatGPT 和当今大多数流行的人工智能模型都在人工神经网络（ANN）上运行。尽管有它们的名字，但这些网络与真正的大脑几乎没有任何共同之处。
液体神经网络是一种新型的人工神经网络。它们更接近地模拟我们的大脑。卡纳卡·拉詹 (Kanaka Rajan) 表示，我认为 Ramin Hasanis 的方法代表了迈向更现实的人工智能的重要一步。她没有参与这项新工作。但她知道这些事情。她是哈佛医学院和马萨诸塞州波士顿肯普纳自然与人工智能研究所的计算神经科学家。她利用人工智能来更好地理解大脑。
与标准的人工神经网络相比，液体神经元网络需要更少的能源和计算机功率来运行。但它可以更灵活地解决一些问题。
剑桥麻省理工学院 (MIT) 的哈萨尼斯团队在自动驾驶汽车和无人机的测试中展示了这一点。2023 年 12 月，他的团队成立了一家公司，将该技术带入主流。哈萨尼 (Hasani) 现任同样位于马萨诸塞州剑桥市的 Liquid AI 首席执行官。
丹妮拉·罗斯 (Daniela Rus) 表示，最好的想法是在你洗澡或外出跑步时产生的。她领导麻省理工学院计算机科学和人工智能实验室。液体神经网络的想法首次出现在几年前的一个炎热的夏日。Liquid AI 的联合创始人正在参加一个会议。Ramin Hasanis 博士生导师 Radu Grosu 也在场。两人一起跑步并谈论了他们的工作。
格罗苏是奥地利维也纳技术大学的计算机科学家。在这次会议期间，他和哈萨尼正在制作线虫的大脑模型。这种微小的蠕虫只有 302 个神经元。大约有 8,000 个连接将它们连接起来。（相比之下，人脑有大约 1000 亿个神经元和 100 万亿个连接。）
Rus 正在研究自动驾驶汽车。为了训练汽车，她的团队使用了具有数万个人工神经元和 50 万个连接的人工神经网络。
Rus 意识到，如果蠕虫不需要太多神经元来四处走动，也许人工智能模型可以也可以少用一点。她招募了哈萨尼和格罗苏斯的另一名学生转到麻省理工学院。2020 年，他们开始了一个新项目，让汽车拥有更像蠕虫的大脑。
当时，大多数人工智能研究人员都在构建越来越大的人工神经网络。当今一些最大的神经元包含数千亿个人工神经元和数万亿个连接！使这些模型变得更大往往会让它们变得更聪明。但它们的构建和运行成本也越来越高。
是否可以通过采用更小的蠕虫方法来使人工神经网络变得更智能？
大脑，甚至蠕虫的大脑，都极其复杂。科学家们仍在研究它们到底是如何做的。
Hasani 专注于已知的蠕虫神经元如何相互影响。
线虫中的那些并不总是对线虫神经元做出反应。以相同的方式获得相同的输入。存在不同输出的机会或概率。时机很重要。此外，神经元还通过网络向前和向后传递信息。（相比之下，大多数人工神经网络中不存在概率、时间或向后流动的信息。）
需要一些棘手的数学（称为微分方程）来模拟神经元中更像大脑的特征。求解这些方程意味着逐步执行一系列复杂的计算。通常，每个步骤的解都会输入方程以供下一步使用。
但 Hasani 找到了一种在一步中求解方程的方法。拉詹说这很了不起。这一壮举使得在汽车、无人机或其他设备上实时运行液体神经网络成为可能。
在此处提交您的问题，我们可能会在即将出版的《科学新闻探索》中回答该问题
人工神经网络在训练期间学习一项任务。它使用任务示例来调整神经元之间的连接。Rus 表示，对于大多数人工神经网络来说，一旦训练结束，模型就会保持冻结状态。液体神经网络则不同。Rus 指出，即使经过训练，它们也可以根据看到的输入进行学习和适应。
在自动驾驶汽车中，具有 19 个神经元的液体神经网络在保持车道行驶方面比Rus 之前一直在使用大型模型。
她的团队研究了每个系统，看看它在驾驶时会注意什么。典型的人工神经网络不仅会关注道路，还会关注大量的灌木丛和树木。罗斯说，液体神经网络专注于地平线和道路边缘，这就是人们开车的方式。
她回忆道：我们这里有一些特别的东西。
接下来，她的团队测试了液体神经网络的适应性。
为了做好准备，他们制作了一组视频。在每一次中，有人驾驶无人机飞向树林中的一个物体。他们在夏季、秋季和冬季都这样做。他们使用了不同的物体，包括一把亮红色的椅子。
然后他们使用这些视频来训练六种不同类型的神经网络。其中两个是液体神经网络。训练没有解释目标是达到目标物体。这就是团队希望人工智能模型能够自己解决的问题。
在测试中，团队将红色椅子放在树林的一部分，看起来与训练视频略有不同。所有人工智能模型在这里都表现良好。
然后他们把椅子放在建筑物旁边。然后他们把它放在露台上的其他椅子上。这些环境看起来与训练视频完全不同，并且使每个典型的人工神经网络都陷入困境。Hasani 今年 5 月在麻省理工学院举行的 EmTech Digital 会议上发表讲话时表示，它实际上不知道该往哪里看。他解释说，其他人工神经网络只是不明白任务是什么。
但液体神经网络通常会成功。
接下来，团队尝试将红色椅子放在比它更远的地方在培训视频中。典型的人工神经网络现在每次都会失败。但是液体神经网络呢？每 10 次尝试中有 9 次成功。
需要多少个神经元和连接才能做到这一点？Rus 说，对于无人机，我们有 34 个神经元。只有 12,000 个连接将它们连接起来。
此后，该团队一直与美国军方国防高级研究计划局合作，测试该技术在飞行中的应用实际飞机。Liquid AI 已经构建了更大的液体神经网络。哈萨尼在麻省理工学院的会议上表示，其最大的连接数达到 1000 亿。这仍然比最先进的大型语言模型小得多。
你可以将其视为人工智能的新风格，Rajan 说。她指出，适应性强也有缺点。这可能会使完全理解和控制[模型]行为的工作变得复杂。但她表示，她肯定会考虑在自己的工作中使用液体神经网络来更好地理解大脑。
Rus 说，我对液体人工智能感到兴奋。我相信它可以改变人工智能和计算的未来。
这一切都始于一只小蠕虫。
这是介绍技术和创新新闻的系列文章之一，使之成为可能在莱梅尔森基金会的慷慨支持下。
每周更新，帮助您在学习环境中使用科学新闻探索
感谢您注册！
注册时出现问题。