数学如何揭示AI的出血边缘

数学家喜欢证明的确定性。这就是他们验证自己的直觉与可观察到的真理相匹配的方式。

这种对证明的逻辑热爱非常适合打开黑匣子的人工智能（AI），以建立信任的目标。数学和人工智能似乎是自然伙伴，但是AI才刚刚开始受到数学社区的重大关注。在太平洋西北国家实验室（PNNL），数学家正在探索AI可以实现的局限性，同时确保我们可以相信它对我们所说的话。

数学与AI之间的关系

PNNL的数学家亨利·克维德（Henry Kvinge）深深地参与了AI研究，他将这种关系分为三个水桶，每个桶在利用AI系统的潜力方面起着至关重要的作用。

了解AI的数学：他说，Math提供了强大的工具来破译复杂的AI模型的内部工作。例如，研究人员努力解码神经网络中发生的事情，以确保他们做出的决策不依赖于误导的推理或错误的逻辑。数学有助于剖析这些复杂的系统，识别潜在的失败并优化性能。最近，肯文（Kvinge）写了一篇文章，总结了他对数学概念如何的想法像曲率，形状和对称性一样，提供了工具包，用于分析给定AI模型的精度，以分配的任务。

激发AI发展的数学：数学提供了描述AI系统高级设计原理的语言。通过编码数学原理，可以限制AI模型，同时仍被允许从数据中学习解决方案。这种方法可以减少训练时间凯文（Kvinge）说，需要更少的计算资源。

例如，开发人员经常在一个背景下谈论AI培训损失格局山和山谷分别对应于弱模型。在训练过程中，目标是使模型以相对较浅的宽山谷定居，与强大的模型相对应。在这种情况下，数学概念他补充说，像对称性和曲率一样，可以用来开发训练程序，以将模型推向更有利的解决方案。

数学的AI：凯文妮说，正如科学家们已经开始探索AI如何为更快的科学发现做出贡献一样，数学家也意识到可以训练AI来解决数学中复杂且未解决的问题。最近，凯文（Kvinge）和他的同事表明AI算法可以提供必要的见解，以重新发现代数组合的挑战性结果。

研究人员设置了他们的问题，以便他们能够打开黑匣子并在内部凝视，以了解算法如何降落其结果。这种类型的研究仍然相对罕见，因为逆向工程基于深度学习的系统很费力，需要特殊的专业知识。

正如Kvinge所指出的那样，许多传统的数学家对AI在推进纯数学方面的功效仍然持怀疑态度。但是，该结果表明，狭窄的AI模型成功地应用于特定的数学问题。他补充说，这样的结果应该逐渐使更广泛的社区温暖到AI驱动研究的潜力。

该研究结果是PNNL进行的4年投资的一部分，以探索数学在人工推理（MARS）中的作用。这项最初作品的成功导致了Kvinge和他的团队将在PNNL的新投资中应对的新问题和挑战，称为《生成AI：未来的基础》，并通过他的协作工作探索拓扑，代数和几何形状，以应对基本数据科学挑战。

在这方面，凯文（Kvinge）鼓励他的数学同事探索火星团队合作为数学社区制作的一系列AI友好的数学问题。精选的一组代数组合学中的ML基准测试问题以及已发布的解决方案可在GitHub上找到。

数学家与数据工程师之间的合作

凯文（Kvinge）的经验是，在AI开发中，许多最重要的进步是由工程驱动的。他说，传统上倾向于从第一原则工作的数学家可以通过将数学应用于机器学习社区对现实世界系统的问题和观察结果来最好地合作。这种动态使数学的贡献保持在实际问题中。

通过将自己浸入数据中并分析AI模型中的新兴行为，数学家可以提出更多相关的解决方案。数学提供了制定设计决策的框架，同时将执行留给学习算法。

“机器学习中有这篇著名的文章称为'痛苦的教训，“基本上说，您应该尽可能地尝试从学习过程中删除人类的选择，而依靠数据和计算。”他说。“通过它在非常抽象的水平上构架概念的能力，数学可以帮助我们对系统对系统施加最小的限制，从而使其余的学习算法对学习算法。”

他补充说，问题是：“这些模型有时会在与您收集或预处理数据有关的一些虚假相关性上，就像学生在不实际学习材料的情况下找到一种王牌的方法。这是一个重要的时间。

但是闯入神经网络做这种侦探工作需要数学。这将使Kvinge和他的同事在可预见的未来忙碌。