几何链接：凸性可能桥接人和机器智能

近年来，借助AI工具的公众可用性，越来越多的人意识到人工智能的内在运作能够与人脑的内在工作相似。

机器和人类大脑的工作方式有几个相似之处。例如，在它们以抽象形式表示世界的方式，从有限的数据中概括，并以层次为单位的过程数据。新论文在自然通讯DTU研究人员正在为列表添加另一个功能：凸度。

领导该研究的DTU计算机教授Lars Kai Hansen说：“我们发现凸性在深层网络中令人惊讶，并且可能是机器学习的基本属性。”

要简要解释这个概念，当我们人类了解“猫”时，我们不只是存储一个单图像，但是建立一种灵活的理解，使我们能够认识到各种猫，大，小，蓬松，时尚，黑色，白色等等。

从数学中取出描述的几何形状，将概述术语应用于认知科学彼得·盖登福斯（PeterGârdenFors）提出，我们的大脑形成了相关思想集群的概念空间。这是关键部分：自然概念，例如“猫”或“车轮”，倾向于在这些心理空间中形成凸区。简而言之，人们可以想象一个橡皮筋在一组类似的想法周围伸展的橡皮筋。

这样想：在内部橡皮筋，如果您有两个代表两只不同的猫，则最短路径它们之间也属于心理“猫”地区。这种凸性很强大，因为它可以帮助我们从几个示例中概括，快速学习新事物，甚至帮助我们就事情的含义进行交流并达成共识。这是一个基本的属性，使人类学习强大，灵活和社交。

谈到深度学习模型``从图像生成到聊天机器人的所有事物背后的引擎通过将像素或单词（通常称为“潜在空间”）转换为复杂的内部表示形式来学习。这些空间可以看作是AI组织对世界的理解的内部地图。

测量AI的内部结构

使AI更可靠，值得信赖和一致人类价值观，有必要开发更好的方法来描述其代表知识的方式。因此，至关重要的是要确定机器学习空间是否以类似于人类概念空间的方式组织，以及它们是否还形成了概念的凸区域。

该论文的第一作者是DTU Compute的博士后Lenka Tetkova，他介绍了这两个主要类型的凸度。

第一个是欧几里得凸度，这很简单：如果您在模型的潜在空间中的概念中取两个点，并且它们之间的直线完全保留在该概念中，那么该地区是欧几里得凸。这就像通过混合已知示例概括。

另一个是图凸度，对于在AI的内部表示中经常发现的弯曲几何形状，它更灵活，尤其重要。想象一下，如果概念中的两个点之间的最短路径完全停留在该概念内，则可以通过相似的数据点网络。这反映了模型如何通过遵循数据的自然结构来推广。

"We've developed new tools to measure convexity within the complex latent spaces of deep neural networks. We tested these measures across various AI models and data types: images, text, audio, human activity, and even medical data. We found that the same geometric principle that helps humans form and share concepts—convexity—also shapes how machines learn, generalize, and align with us," says Tetkova.

AI的隐藏顺序

研究人员还发现，在经过验证的模型中发现了共同点，这些模型从大规模的数据集中学习一般模式和微调模型，这些模型被教授了诸如识别动物之类的特定任务。这进一步证明了凸性可能是机器学习时自然出现的基本财产的说法。

当对特定任务进行微调模型时，其决策区域的凸度就会增加。随着AI在分类方面的改善，其内部概念区域变得越来越清晰地凸出，完善了其理解并提高了其界限。

此外，研究人员发现，预验证的模型概念中的凸水平可以预测该模型在微调后的表现如何。

“想象一下，一个概念，例如一只猫，在机器中构成了一个很好的，定义明确的凸区域，甚至教导要专门识别猫。然后，它更有可能在以后准确地识别猫。我们相信这是一个有力的见解，因为它表明convexity可能是特定学习任务的有用指标。”

改善AI的途径

根据研究人员的说法，这些新结果可能具有一些重要的含义。通过将凸性确定为普遍的特性，他们可以更好地了解深度神经网络的学习和组织信息。它为AI概括提供了一种具体的机制，就像人类学习方式一样。

如果凸度确实被证明是可靠的性能预测指标，则可以设计明确鼓励凸的形成的AI模型概念培训期间的区域。这可能会导致更有效和有效的学习，尤其是在只有几个示例的情况下。因此，这些发现可能会在人类认知和机器智能之间提供至关重要的新桥梁。

“通过证明AI模型表现出对人类概念理解至关重要的属性（例如凸度），我们更接近创建机器，以更容易理解和与我们自己保持一致的方式'思考'，这对于建立人类和机器之间的信任和协作至关重要。

“尽管还有很多要探索的东西，但结果表明，凸的看似抽象的思想可能是解锁有关AI内部运作的新秘密的关键，并使我们更接近智能和人类的机器。”

这项研究是在研究项目“认知空间下一代可解释的AI”中进行的。该项目的目的是打开机器学习黑框并构建工具，以用特定用户组可以理解的概念来解释AI系统的内部工作。