沃顿商学院的研究显示，“人为愚蠢”使得人工智能交易机器人在无人监管的情况下自发形成卡特尔财富

工作文件今年早些时候，宾夕法尼亚大学沃顿商学院和香港科技大学在美国国家经济研究局网站上发布的一项研究发现，当人工智能驱动的交易代理被释放到模拟市场时，这些机器人会相互勾结，通过操纵价格来获取集体利润。在这项研究中，研究人员让机器人在市场模型中自由发挥，本质上是

计算机程序旨在模拟真实的市场状况并训练人工智能解释市场定价数据，虚拟做市商根据模型中的不同变量设定价格。这些市场可能有不同程度的“噪音”，指的是不同市场背景下相互冲突的信息量和价格波动。虽然一些机器人被训练得像散户投资者，而另一些则像对冲基金一样，但在许多情况下，这些机器在没有被明确告知的情况下集体拒绝积极交易，从而从事“普遍”的价格操纵行为。

在一种考虑价格触发策略的算法模型中，人工智能代理根据信号进行保守交易，直到足够大的市场波动触发他们非常激进地进行交易。这些机器人经过强化学习训练，足够复杂，能够隐含地理解广泛的激进交易可能会造成更大的市场波动。

在另一种模型中，人工智能机器人存在过度修剪的偏见，并经过训练内化，如果任何有风险的交易导致负面结果，它们就不应该再次采用该策略。这些机器人以“教条”的方式进行保守交易，即使更激进的交易被认为更有利可图，它们集体以研究中称为“人为愚蠢”的方式行事。

研究合著者、沃顿商学院金融学教授伊泰·戈德斯坦 (Itay Goldstein) 表示，“在这两种机制中，他们基本上都会趋向于这种不采取激进行动的模式，从长远来看，这对他们有利。”财富。

金融监管机构长期以来一直致力于解决市场上的串通和定价等反竞争行为。但在零售业，人工智能已经成为人们关注的焦点，特别是当使用算法定价的公司受到严格审查时。这个月，即时购物车，其中使用人工智能驱动的定价工具，宣布将结束它的程序一些顾客在送货公司的平台上看到同一商品的不同价格。它遵循一个消费者报告分析一项实验发现，Instacart 近 75% 的杂货商品都以多种价格出售。

“对于[证券交易委员会]和金融市场的监管机构来说，他们的首要目标不仅是保持这种稳定性，而且还要确保市场的竞争力和市场效率，”沃顿商学院金融学教授、该研究的作者之一温斯顿·魏·窦 (Winston Wei Dou) 表示。财富。

考虑到这一点，窦和两位同事开始根据“噪音”的高低水平将交易代理机器人放入各种模拟市场，从而确定人工智能在金融市场中的表现。机器人通过集体自发地决定避免激进的交易行为，最终获得了“超竞争利润”。

“他们只是认为次优的交易行为是最优的，”窦说。“但事实证明，如果环境中的所有机器都以“次优”方式进行交易，实际上每个人都可以获利，因为他们不想互相利用。”

简而言之，这些机器人并没有质疑它们保守的交易行为，因为它们都在赚钱，因此停止了彼此之间的竞争行为，形成了事实上的卡特尔。

对金融服务中人工智能的担忧

由于能够提高消费者对金融市场的包容性并节省投资者在咨询服务上的时间和金钱，用于金融服务的人工智能工具（如交易代理机器人）变得越来越有吸引力。根据 2023 年的一份报告，近三分之一的美国投资者表示，他们愿意接受由人工智能驱动的生成工具提供的财务规划建议调查来自财务规划非营利组织 CFP 委员会。一个报告加密货币交易所 MEXC 7 月发布的报告显示，在 78,000 名 Z 世代用户中，67% 的交易者在上一财季至少激活了一个人工智能驱动的交易机器人。

但政府问责办公室 (GAO) 金融市场和社区主管迈克尔·克莱门茨 (Michael Clements) 表示，尽管人工智能交易代理有诸多好处，但也并非没有风险。超越 网络安全问题和可能存在偏见的决策，这些交易机器人可以对市场产生真正的影响。

“许多人工智能模型都是根据相同的数据进行训练的，”克莱门茨告诉我们财富。“如果人工智能内部存在整合，因此这些平台只有少数几个主要提供商，您可能会出现羊群行为，即大量个人和实体同时购买或出售，这可能会导致一些价格错位。” 

英格兰银行金融政策委员会外部官员乔纳森·霍尔 (Jonathan Hall)警告去年，人工智能机器人鼓励了这种“羊群行为”，这可能会削弱市场的弹性。他主张为该技术设置“终止开关”，并加强人工监督。

暴露监管漏洞人工智能定价工具

克莱门茨解释说，到目前为止，许多金融监管机构已经能够对人工智能应用既定的规则和法规，例如，“无论贷款决策是通过人工智能还是纸笔做出的，规则仍然同样适用。”

美国证券交易委员会等一些机构甚至选择以牙还牙，开发人工智能工具来检测异常交易行为。

“一方面，人工智能可能会导致异常交易的环境，”克莱门茨说。“另一方面，监管机构也能处于更好的位置来检测它。”

Dou 和 Goldstein 表示，监管机构对他们的研究表示了兴趣，作者表示这些研究有助于揭示当前金融服务领域人工智能监管的漏洞。当监管机构之前寻找共谋实例时，他们会寻找个人之间沟通的证据，因为他们相信，除非彼此相互通信，否则人类无法真正维持价格操纵行为。但在 Dou 和 Goldstein 的研究中，机器人没有明确的沟通形式。

“对于机器来说，当你有强化学习算法时，它确实不适用，因为它们显然不沟通或协调，”戈德斯坦说。——我们对它们进行了编码和编程，并且我们确切地知道代码中的内容，并且没有任何内容明确谈论共谋。但随着时间的推移，他们了解到这是前进的道路。”

戈德斯坦认为，人类和机器人交易者在幕后沟通方式的差异是“最基本的问题”之一，监管机构可以学会适应快速发展的人工智能技术。

“如果你用它来思考由于沟通和协调而出现的共谋，”他说，“当你处理算法时，这显然不是思考这个问题的方式。”

该故事的一个版本于 2025 年 8 月 1 日发布在 Fortune.com 上。

有关人工智能定价的更多信息：

• Instacart 可能是抬高杂货价格研究表明，使用人工智能——一种称为“智能舍入”的做法
• 达美走向取消设定价格以支持人工智能这决定了您个人将为门票支付的费用
• 反垄断高级官员动态定价引发危险信号并警告称，将出现有史以来最大规模的“垄断权力抽取”