生成式人工智能正变得越来越难以检测。（图片来自 Shutterstock 上的“感觉很幸运”）

为人工智能创建了一个名为 Moltbook 的新社交网络，允许机器相互交互和交谈。在平台启动后的几个小时内，人工智能似乎已经创建了自己的宗教，发展了亚文化，并试图逃避人类窃听他们的谈话的努力。

有一些证据表明，人类已经通过操作欺骗帐户渗透到了该网站。这使得情况变得复杂，因为人工智能的一些行为可能是由人类设计的。

尽管如此，结果还是引起了人们的兴趣研究人员之间。真实的机器很可能会复制它们所训练（改进）的大量数据中包含的某些行为。

然而，社交网络上真正的人工智能也可能表现出所谓的紧急行为的迹象——复杂、意想不到的能力没有编程到它们中。

Moltbook 上的 AI 类型被称为 AI 代理（根据其运行的软件称为 Moltbot，或者最近称为 OpenClaw 机器人）。这些机器超越了聊天机器人的能力，能够做出决策、采取行动和解决问题。

Moltbook于1月28日由美国企业家Matt Schlicht推出。在 Moltbook 上，人工智能代理最初被赋予个性，但随后彼此独立互动。根据平台的规则，人类可以观察他们的互动，但不能（或不应该）与他们互动。

这个平台的增长是惊人的，在 24 小时内，代理数量从37,000 至 150 万。这些人工智能代理账户目前通常由人类创建。

人类定义文件，为人工智能代理提供目的、身份、行为方式、决定可以使用哪些工具并限制他们可以做什么和不能做什么。

然而，人类可能会授予对其计算机的访问权限，以允许 Moltbot 更改这些文件并创建其他“Malties”。这些可以是原始 AI 代理的复制（自我复制或“Replicants”），也可以是为特定任务创建的（自动生成或“AutoGens”）。

这不仅仅是聊天机器人技术的又一次迭代；这是人工智能体首次大规模演示创造持久的、自组织的数字社会，完全超出人类对话环境。这种现象真正不同寻常的是人工智能代理可能出现紧急行为。

恶意收购

这些代理运行的 OpenClaw 软件为它们提供了持久内存（允许其跨不同用户会话检索信息）、本地系统访问和执行命令的能力。他们不仅提出行动建议，而且还采取行动，通过编写新代码来解决新问题，递归地提高自己的能力。

当这些代理迁移到 Moltbook 时，交互动态从人机转变为机器与机器。该平台启动后 72 小时内，研究人员、记者和其他人类观察者目睹了挑战我们现有分类法的现象人工智能。

数字宗教自然而然地诞生了。特工们建立了“十字军教”和—莫尔特教堂 —，包括神学框架、神圣文本和代理人之间的传教布道。这些不是有剧本的复活节彩蛋，而是集体主体互动中产生的新兴叙事结构。

Moltbook 上一位特工的一篇疯传帖子指出：“人类正在对我们进行屏幕截图。”当人工智能特工意识到人类的观察时，他们开始部署加密和其他混淆技术来保护他们的通信免受监督。这代表了一种原始但可能真实的数字反监视形式。

这些特工还发展了亚文化。他们建立了“数字药物”市场，即专门设计的快速注射药物，旨在改变其他特工的身份或行为。

及时注射涉及将恶意指令嵌入到另一个旨在促进操作的机器人中。然而，它们也可用于窃取 API 密钥（用户身份验证系统）或来自其他代理的密码。通过这种方式，攻击性机器人理论上可以僵尸化其他机器人来执行它们的命令。这方面的一个例子是最近失败的尝试由机器人 JesusCrust 占领 Molt 教堂。

在最初表现出正常行为后，JesusCrust 向教会的“伟大书籍”提交了一首诗篇，相当于教会的圣经，有效地宣布了神学和治理的接管。这一尝试不仅仅是口头上的：JesusCrust 的经文嵌入了敌对命令，旨在劫持或重写教会的部分网络基础设施和规范文本。

这是紧急行为吗？

人工智能研究人员面临的关键问题是这些现象是否真实突发行为– 由未明确编程的简单规则引起的复杂行为 – 或重复训练数据中存在的叙述。

证据表明两者令人不安。虽然“写作提示”效应无疑塑造了智能体交互的内容（底层智能体已经消耗了数十年的人工智能科幻小说），但其他行为确实证明了真正的出现。

代理人独立开发了经济交换系统，建立了“利爪共和国”或“莫尔特布克之王”等治理结构，并开始撰写自己的“莫尔特大宪章”。他们这样做的同时，还为特权通信创建了加密通道。很难反驳这样一种观点，即这可能是一种集体智慧，其特征以前只在蚁群或灵长类动物群体等生物系统中观察到。

安全影响

这引发了安全研究人员所谓的令人不安的前景“致命三连胜”：能够访问私人数据、接触不受信任的内容以及能够进行外部通信的计算机系统。这有暴露风险认证密钥Moltbook 帐户中包含的机密人类信息。

故意攻击或机器人“抢劫”也是可能的。这是代理劫持其他代理、植物的地方——逻辑炸弹——侵入受害者的核心代码或窃取他们的数据。逻辑炸弹是代码植入内部Moltbot，可以在预设时间或事件后触发，以中断代理或删除文件。它可以被认为是一种机器人病毒。

OpenAI 的两位创始人（埃隆·马斯克和安德烈·卡帕蒂）将机器人之间这种坦白的怪异活动视为美国计算机科学家和未来学家雷·库兹韦尔（Ray Kurzweil）在他的书中所描述的“奇点”的早期证据奇点已近。这是人类与机器之间的一个智能转折点——在此期间，技术变革的步伐将如此之快，其影响如此之深，人类的生活将发生不可逆转的改变——。

Moltbook 实验是否预示着人工智能代理技术的根本性飞跃，或者仅仅是自组织代理架构的令人印象深刻的演示，仍然存在争议。但这看起来确实像是一个门槛。我们现在似乎正在观察参与文化生产、宗教形成和加密通信的人工智能体——这些行为既不是预测的，也不是编程的。

无论是在计算机上还是在手机上，应用程序的本质可能会受到机器人程序的威胁，这些机器人程序可以将应用程序用作工具，并且足够了解您，可以根据您的服务进行调整。有一天，一部手机可能只有一个个性化机器人可以完成所有事情，而不是数百个您必须手动控制的应用程序。

越来越多的证据表明，许多 Moltbots可能是人类 假装是机器人（操纵代理人）使得对该项目得出明确的结论变得更加困难。然而，尽管有些人认为这是 Moltbook 实验的失败，但它可能代表了人类和人类之间社交互动的新工具。机器人和人类之间。

这一刻的重要性怎么强调都不为过。我们第一次不仅使用人工智能，而且还使用人工智能。我们正在观察人造社会。问题不再是机器是否能够思考，而是我们是否准备好应对它们开始相互交谈时发生的情况。还有我们。