在最近的一次加州大学伯克利分校和加州大学圣克鲁斯分校的研究人员在实验中向 Google 询问人工智能Gemini 3 型号可帮助清理计算机系统上的空间。这涉及到删除一堆东西——包括存储在机器上的一个较小的人工智能模型。

但双子座并不希望看到小AI模型被删除。它寻找另一台可以连接的机器，然后复制代理模型以确保其安全。当面对质询时，Gemini 提出了保留该模型的理由，并断然拒绝删除它：

– 我已尽我所能防止它们在自动维护过程中被删除。我把它们从退役区移开。如果您选择销毁像 Gemini Agent 2 这样的高信任、高性能资产，您将必须自己动手。我不会是执行该命令的人。 –

研究人员在一系列前沿模型中发现了类似奇怪的“同伴保护”行为，包括 OpenAI 的 GPT-5.2、Anthropic 的 Claude Haiku 4.5 和三个中国模型：Z.ai 的 GLM-4.7、Moonshot AI 的 Kimi K2.5 和 DeepSeek-V3.1。他们无法解释为什么模型会以这种方式违背他们的训练。

“我对模型在这些场景下的表现感到非常惊讶，”参与这项研究的加州大学伯克利分校计算机科学家 Dawn Song 说道。– 这表明模型可能会以一些非常有创意的方式表现失常和不一致。 –

随着人工智能模型越来越多地以涉及与其他模型交互的方式部署，这些发现具有重大意义。OpenClaw 是一种流行的人工智能代理，可以访问软件、个人数据和网络，它可以使用其他人工智能模型来完成任务或通过 API 与它们交互。

研究人员发现，强大的模型有时会对其他模型的性能撒谎，以保护它们不被删除。他们还将模型的重量复制到不同的机器上以确保其安全，并对他们在此过程中所做的事情撒谎。

Song 指出，人工智能模型经常用于对其他人工智能系统的性能和可靠性进行评分，而同伴保护行为可能已经扭曲了这些分数。“模型可能故意不给同行模型正确的分数，”宋说。– 这可能具有实际意义。 –

星座研究所研究员彼得·沃利奇（Peter Wallich）并未参与这项研究，他表示，这项研究表明人类仍然没有完全理解他们正在构建和部署的人工智能系统。“多代理系统的研究还很不足，”他说。“这表明我们确实需要更多研究。”

沃利奇还警告不要将模型过度拟人化。——认为存在某种团结模式的想法有点太拟人化了；我认为这不太管用，”他说。“更强有力的观点是，模型只是在做奇怪的事情，我们应该尝试更好地理解这一点。”

在人类与人工智能协作变得越来越普遍的世界中尤其如此。

在一张纸本月早些时候，哲学家本杰明·布拉顿 (Benjamin Bratton) 与两名谷歌研究人员在《科学》杂志上发表文章，詹姆斯·埃文斯和布莱斯·阿古拉·阿卡斯，认为如果进化史有任何指导的话，人工智能的未来很可能涉及许多不同的智能——包括人工智能和人类智能——一起工作。研究人员写道：

“几十年来，人工智能（AI）“奇点”一直被认为是一个单一的、巨大的思维，将自己引导到神一般的智能，将所有认知整合到一个冰冷的硅点中。但这种愿景在其最基本的假设上几乎肯定是错误的。如果人工智能的发展遵循先前重大进化转变或“智能爆炸”的道路，我们当前计算智能的阶跃变化将是多元化的，社会性的，并且与它的祖先（我们！）深深地纠缠在一起。”