数学技术“打开人工智能决策的黑匣子”
作者：by Jeff Renaud, University of Western Ontario
西方研究人员开发了一种利用数学来准确理解神经网络如何做出决策的新技术——这是机器学习领域广泛认可但了解甚少的过程。
当今的许多技术，从 Siri 和 ChatGPT 等数字助理到医学影像和自动驾驶汽车，都是由机器学习提供动力的。然而，神经网络– 计算机模型的灵感来自于人脑– 这些机器学习系统的背后一直难以理解，有时为它们赢得了“”的绰号黑匣子”研究人员之中。
“我们创建的神经网络可以执行具体任务数学教授兼西方网络科学菲尔兹实验室主任莱尔·穆勒 (Lyle Muller) 说道，该实验室是新创建的菲尔兹-西方合作中心的一部分。‘打开黑匣子’以准确了解网络是如何工作的。”
研究结果是发表在日记中美国国家科学院院刊与包括阿姆斯特丹大学机器学习研究主席 Max Welling 在内的国际研究人员合作。
通过将图像分割成多个部分来“看到事物”
西方团队包括 Muller、博士后学者 Luisa Liboni 和 Roberto Budzinski 以及研究生 Alex Busch，他们首先在称为图像分割的任务上展示了这一新进展，这是计算机视觉的基本过程，其中机器学习系统将图像划分为不同的图像部分，例如将图像中的对象与背景分开。
从正方形和三角形等简单的几何形状开始，他们创建了一个可以分割这些基本图像的神经网络。
Muller 和他的合作者接下来使用了他们之前为研究其他网络而开发的数学方法，以研究新网络在分析这些简单图像时如何执行此分割任务。
数学方法使团队能够准确理解计算的每个步骤是如何发生的。令人有些惊讶的是，该团队随后发现该网络还可以分割（或查看和解释）一些自然图像，例如北极熊在雪地里行走的照片或野外鸟类的照片。
“通过简化获得数学洞察力的过程，我们能够构建一个比以前的方法更灵活的网络，并且在从未见过的新输入上也表现良好，”西方神经科学研究所成员穆勒说。
“特别令人兴奋的是，这只是一个开始，因为我们相信这种数学理解的用途远远超出第一个例子。”
这项工作的意义不仅仅局限于图像处理。
在一项相关研究中发表在通信物理2024 年，Muller 和他的团队开发了一个类似的“可解释”网络，可以执行各种任务，从基本逻辑操作到安全消息传递和记忆功能。
在与生理学和药理学教授 Wataru Inoue 及其舒立克医学与牙科学院的研究团队的另一项合作中，他们甚至成功地将他们的网络连接到活体脑细胞，创建了一个混合系统，将人工和脑细胞连接起来。生物神经网络。
菲尔兹网络科学实验室的博士后学者 Budzinski 表示：“随着我们继续开发我们可以信任和依赖的更复杂的人工智能系统，这种基本的理解至关重要。”
更多信息：Luisa H. B. Liboni 等人，在精确可解的循环神经网络中使用行波进行图像分割，美国国家科学院院刊（2025）。DOI：10.1073/pnas.2321319121
Roberto C. Budzinski 等人，复值神经网络中瞬态时空动力学计算的精确数学描述，通信物理（2024）。DOI：10.1038/s42005-024-01728-0
引文:数学技术“打开人工智能决策的黑匣子”（2025年1月13日）检索日期：2025 年 1 月 14 日来自 https://phys.org/news/2025-01-mathematical-technique-black-ai-decision.html
本文档受版权保护。除了出于私人学习或研究目的的任何公平交易外，不得未经书面许可，不得复制部分内容。所提供的内容仅供参考。
关于《数学技术“打开人工智能决策的黑匣子”》的评论
暂无评论