研究发现，AI可以自发地发展类似人类的交流。

一项研究发现，人工智能可以自发地发展类似人类的社会惯例。

这项研究是在城市圣乔治，伦敦大学和IT哥本哈根大学之间合作进行的，这表明，当大型语言模型（LLM）AI（例如）chatgpt他们可以在没有外部参与的小组中进行交流，他们可以开始采用语言形式和社会规范，就像人类社交时一样。

这项研究的主要作者，圣乔治市博士研究员Ariel Flint Ashery说，该小组的工作与对AI的大多数研究违反了AI的大多数研究，因为它将AI视为社会而非孤独的实体。

迄今为止，大多数研究都对LLM进行了隔离，但是现实世界中的AI系统将越来越涉及许多相互作用的药物。” Ashery说。

我们想知道：这些模型可以通过形成惯例，社会的基础来协调其行为吗？答案是肯定的，他们在一起做的事情可以缩小到他们一个人做的事情。

研究中使用的单个LLM代理组的范围为24至100，在每个实验中，将两个LLM代理随机配对，并要求从一系列选项中选择一个字母或字符的字母或字符字符串。

当两个代理商选择相同的名称时，他们得到了奖励，但是当他们选择不同的选项时，他们受到了惩罚并互相表明的选择。

尽管代理商并不意识到他们是一个较大群体的一部分，而记忆仅限于他们最近的互动，但共同的命名惯例自发地在人群中自发出现，而没有预定义的解决方案，模仿了人类文化的交流规范。

圣乔治市复杂科学教授，研究的高级作者安德里亚·男爵夫人（Andrea Baronchelli）将行为的传播与我们社会中新单词和术语的创建进行了比较。

他说，代理商没有复制领导者。他们都在积极尝试协调并始终成对。每次互动都是一对一尝试在标签上达成共识的尝试，而没有任何全球视图。

就像垃圾邮件一样。没有人正式定义它，但是通过反复的协调工作，它成为了不需要电子邮件的通用标签。

此外，团队观察到自然形成的集体偏见，这些偏见无法追溯到个体代理。

在最后一个实验中，小组的AI代理人能够将较大的群体引导到新的命名约定。

这被指出是临界质量动态的证据，在人类社会中发现，一旦达到一定规模的小群体，群体行为一旦达到一定的规模就会引发群体行为的迅速转移。

男爵里说，他相信这项研究为AI安全研究开辟了新的地平线。它显示了这种新的代理商开始与我们互动并将共同形状的未来的含义的深度。”

他补充说：“了解它们的运作方式是领导我们与AI共存的关键，而不是受到AI的共存。我们正在进入一个AI不仅会说话的世界 - 就像我们一样，谈判，一致甚至不同意共同的行为。”

经过同行评审的研究，新兴的社会惯例和LLM人群中的集体偏见发表在《科学进步》杂志上。