沃顿商学院研究表明，“人为愚蠢”使AI交易机器人自发地形成卡特尔

工作文件本月在宾夕法尼亚大学沃顿商学院和香港科学技术大学的国家经济研究局网站上发布，当时AI驱动的贸易代理被释放到模拟市场中，该机器人互相勾结，互相核算，进行价格固定，以固定集体利润。在研究中，研究人员让机器人在市场模型中松动，本质上是

计算机程序旨在模拟真实的市场状况并训练AI来解释市场定价数据，虚拟做市商根据模型中的不同变量设定价格。这些市场可以具有不同级别的噪音，指的是各种市场环境中的相互冲突信息和价格波动的数量。尽管有些机器人经过培训，例如零售投资者，而其他机器人则像对冲基金一样，但在许多情况下，这些机器人通过共同拒绝积极地进行贸易而没有明确地被告知这样做。

在一种算法模型中，AI代理商在信号上进行了保守交易，直到足够大的市场摇摆触发了它们以非常积极的交易为止。通过加强学习训练的机器人足够复杂，可以隐含地理解，广泛的积极交易可能会引起更多的市场波动。

在另一个模型中，AI机器人的偏见过多，并接受了培训以内部化，如果任何风险贸易导致负面结果，他们不应再次采取该策略。机器人以一种教条的方式保守交易，即使将更具侵略性的交易视为更加有利可图，以一种称为“人为愚蠢的方式”的方式。

``在这两种机制中，它们基本上都融合了这种模式，在这种模式中，他们没有积极行动，从长远来看，这对他们有好处。财富。

长期以来，金融监管机构一直致力于解决诸如勾结和市场上价格固定之类的反竞争实践。但是在零售业中，AI引起了人们的关注，特别是当立法者呼吁公司解决算法定价时。例如，参议员鲁本·加勒戈（D-Ariz。）称三角洲的实践使用AI设定个人机票价格的掠夺性定价，尽管该航空公司先前告诉财富它的票价是公开申请的，仅基于与旅行有关的因素。

Winston Wei Dou，对于[证券交易委员会]和金融市场中的那些监管机构，他们的主要目标不仅要保留这种稳定性，而且还要确保市场和市场效率的竞争力。财富。

考虑到这一点，Dou和两个同事着手通过将贸易代理机器人置于基于高或低水平的噪音的各种模拟市场中，以确定AI在金融市场中的行为。机器人最终通过集体和自发地决定避免积极进取的行为来赚取超竞争力。

杜说，他们只是认为次优的贸易行为是最佳的。”但是，事实证明，如果环境中的所有机器都以次优的方式进行交易，那么实际上每个人都可以赚钱，因为他们不想互相利用。

简而言之，机器人并没有质疑他们的保守交易行为，因为他们都在赚钱，因此停止从事竞争行为，形成了事实上的卡特尔。

担心金融服务中的人工智能

由于能够增加消费者在金融市场中的包含并为投资者节省时间和金钱，因此金融服务的AI工具（例如贸易代理机器人）变得越来越吸引人。近三分之一的美国投资者表示，根据2023年民意调查来自财务计划非营利性CFP董事会。一个报告上周，来自加密货币交易所MEXC的MEXC发现，在78,000 Gen Gen用户中，有67％的交易员在上一个财政季度激活了至少一个AI驱动的交易机器人。

但是，尽管如此，AI交易代理商却没有风险，但政府问责办公室（GAO）的社区总监Michael Clements表示。超过 网络安全问题和潜在的偏见决策，这些交易机器人可能会对市场产生真正的影响。

Clements告诉财富。•如果AI内部存在合并，那么这些平台的主要提供商只有几个主要提供者，您可以同时购买大量个人和实体，或者同时销售，这可能会导致某些价格脱位。” 

英格兰银行金融政策委员会的外部官员乔纳森·霍尔（Jonathan Hall），警告去年的AI机器人鼓励这种类似牛群的行为，可能会削弱市场的韧性。他主张为这项技术进行杀戮开关，并增加了人类的监督。

暴露监管差距

克莱门茨（Clements）解释说，迄今为止，许多财务监管机构都能够将良好的规则和法规应用于AI，例如，是说，是使用AI做出贷款决定还是用纸和铅笔进行的，规则仍然同样适用。”

一些机构，例如SEC，甚至选择用火斗争大火，开发AI工具来检测异常交易行为。

克莱门茨说，一方面，您可能有一个人工智能引起异常交易的环境。”另一方面，您的监管机构也可以更好地检测到它。

根据杜（Dou）和戈德斯坦（Goldstein）的说法，监管机构对他们的研究表示了兴趣，作者说，这有助于揭示当前有关金融服务AI的监管差距。当监管机构以前寻找勾结的实例时，他们会寻找个人之间交流的证据，并认为人类可以真正维持定价行为，除非他们彼此相对应。但是在Dou和Goldstein的研究中，机器人没有明确的交流形式。

戈德斯坦说，使用机器，当您有强化学习算法时，它确实不适用，因为它们显然没有进行交流或协调。”我们对它们进行了编码并对其进行了编码，并且确切地知道该代码的内容，没有什么可以明确谈论串通的。然而，随着时间的流逝，这是前进的方式。

戈德斯坦认为，人类和机器人交易者如何在幕后交流的差异是最根本的问题之一，在该问题中，监管机构可以学会适应迅速开发的AI技术。

``如果您将其视为沟通和协调的结果，他说，当您重新处理算法时，这显然不是考虑它的方法。”