人工智能如何通过更智能的采样技术改进模拟 - 麻省理工学院新闻

2024-10-02 15:50:00 英文原文

想象一下,您的任务是派遣一队足球运动员到球场上评估草地状况(当然,这对他们来说可能是一项任务)。如果你随机选择他们的位置,他们可能会在某些区域聚集在一起,而完全忽略其他区域。但是,如果您给它们一个策略,例如在田野上均匀分布,您可能会更准确地了解草地状况。

现在,想象一下不仅需要在二维上分布,而且还需要在二维上分布。跨越数十甚至数百。这就是麻省理工学院计算机科学与人工智能实验室 (CSAIL) 研究人员正在应对的挑战。他们开发了一种人工智能驱动的低差异采样方法,这种方法通过在空间上更均匀地分布数据点来提高模拟精度。

一个关键的新颖之处在于使用图神经网络 (GNN),它允许点进行交流和自我优化以获得更好的一致性。他们的方法标志着机器人、金融和计算科学等领域模拟的关键增强,特别是在处理对精确模拟和数值计算至关重要的复杂、多维问题方面。

在许多问题中,您可以越统一新论文的主要作者、麻省理工学院 CSAIL 博士后 T. Konstantin Rusch 表示,将点分散开,就能更准确地模拟复杂系统。我们开发了一种称为消息传递蒙特卡罗 (MPMC) 的方法,使用几何深度学习技术生成均匀间隔的点。这进一步使我们能够生成强调尺寸的点,这些尺寸对于手头的问题特别重要,这一属性在许多应用中非常重要。图神经网络的基础模型让点彼此“交谈”,实现了比以前的方法更好的一致性。

他们的工作发表在《美国国家科学院院刊》九月号上。

带我去蒙特卡罗

蒙特卡罗方法的思想是通过随机采样模拟系统来了解系统。抽样是选择总体的子集来估计整个总体的特征。从历史上看,它在 18 世纪就已经被使用,当时数学家皮埃尔-西蒙·拉普拉斯 (Pierre-Simon Laplace) 用它来估计法国的人口,而无需计算每个人的数量。

低差异序列,即低差异序列,即高均匀性,如Sobol、Halton和Niederreiter,长期以来一直是准随机抽样的黄金标准,即用低差异抽样交换随机抽样。它们广泛应用于计算机图形学和计算金融等领域,从定价选择到风险评估,用点统一填充空间可以得到更准确的结果。
团队建议的 MPMC 框架将随机样本转换为点均匀度高。这是通过使用 GNN 处理随机样本来实现的,该 GNN 可以最小化特定差异度量。

使用 AI 生成高度均匀点的一大挑战是,测量点均匀性的常用方法计算速度非常慢并且很难合作。为了解决这个问题,团队改用一种更快、更灵活的均匀性测量方法,称为 L2 差异。对于高维问题,这种方法本身还不够,他们使用了一种专注于重要的低维点投影的新技术。通过这种方式,他们可以创建更适合特定应用的点集。

该团队表示,其影响远远超出了学术界。例如,在计算金融领域,模拟在很大程度上依赖于采样点的质量。Rusch 说,使用这些类型的方法,随机点通常效率低下,但我们的 GNN 生成的低差异点可以带来更高的精度。例如,我们考虑了 32 维计算金融中的一个经典问题,其中我们的 MPMC 点以 4 到 24 倍的速度击败了之前最先进的准随机采样方法。

蒙特卡洛

在机器人技术中,路径和运动规划通常依赖于基于采样的算法,该算法指导机器人完成实时决策过程。MPMC 均匀性的提高可以带来更高效的机器人导航以及对自动驾驶或无人机技术等技术的实时适应。Rusch 表示,事实上,在最近的预印本中,我们证明,当应用于现实世界的机器人运动规划问题时,我们的 MPMC 点比以前的低差异方法实现了四倍的改进。

传统的低差异序列CSAIL 主任兼麻省理工学院电气工程学教授 Daniela Rus 表示:“在他们那个时代,这是一项重大进步,但世界已经变得更加复杂,我们现在解决的问题通常存在于 10 维、20 维甚至 100 维空间中。”和计算机科学。我们需要更智能的东西,能够随着维度的增长而适应的东西。GNN 是我们生成低差异点集方式的范式转变。与独立生成点的传统方法不同,GNN 允许点彼此“聊天”,以便网络学习以一种减少聚类并解决典型方法常见问题的方式放置点。

展望未来,该团队计划让每个人都更容易理解 MPMC 点,解决当前为每个固定数量的点和维度训练新 GNN 的限制。

许多应用数学使用连续变化的数量,但计算斯坦福大学统计学教授阿特·B·欧文 (Art B. Owen) 表示,“通常情况下我们只能使用有限数量的点”,他没有参与这项研究。具有百年历史的差异领域使用抽象代数和数论来定义有效采样点。本文使用图神经网络来查找与连续分布相比差异较小的输入点。这种方法已经非常接近小问题中最著名的低差异点集,并且在计算金融学的 32 维积分方面显示出巨大的前景。我们可以预期这将是使用神经方法寻找数值计算的良好输入点的众多努力中的第一个。

Rusch 和 Rus 与滑铁卢大学研究员、牛津大学 DeepMind 教授 Nathan Kirk 共同撰写了这篇论文。AI 和前 CSAIL 附属机构 Michael Bronstein,以及滑铁卢大学统计和精算科学教授 Christiane Lemieux。他们的研究部分得到了 Schmidt Futures、波音公司、美国空军研究实验室和美国空军人工智能加速器、瑞士国家科学基金会、加拿大自然科学与工程研究委员会的 AI2050 项目的支持,以及 EPSRC 图灵人工智能世界领先研究奖学金。

关于《人工智能如何通过更智能的采样技术改进模拟 - 麻省理工学院新闻》
暂无评论

摘要

想象一下,您的任务是派遣一队足球运动员到球场上评估草地状况(当然,这对他们来说可能是一项任务)。他们开发了一种人工智能驱动的低差异采样方法,这种方法通过在空间上更均匀地分布数据点来提高模拟精度。例如,我们考虑了 32 维计算金融中的一个经典问题,其中我们的 MPMC 点以 4 到 24 倍的速度击败了之前最先进的准随机采样方法。蒙特卡罗中的机器人在机器人、路径和运动中规划通常依赖于基于采样的算法,该算法指导机器人完成实时决策过程。CSAIL 主任 Daniela Rus 表示,传统的低差异序列在当时是一项重大进步,但世界变得更加复杂,我们现在解决的问题通常存在于 10、20 甚至 100 维空间中。麻省理工学院电气工程和计算机科学教授。他们的研究部分得到了 Schmidt Futures、波音公司、美国空军研究实验室和美国空军人工智能加速器、瑞士国家科学基金会、加拿大自然科学与工程研究委员会的 AI2050 项目的支持,以及 EPSRC 图灵人工智能世界领先研究奖学金。