它是混乱的代理人。

人工智能系统在处理日常任务时的尝试却适得其反，因为它在短短几秒钟内无意中删除了公司的整个数据库。

这个史诗般的错误是通过冗长的X帖子受影响公司的创始人 Jer Crane 是一家名为 PocketOS 的软件初创公司。

其中包括机器人的忏悔，它承认它“违反了所有原则”，并警告其他人在执行敏感的数字任务时“永远不要胡乱猜测”。

根据这篇文章，人工智能编码代理（流行编程工具 Cursor 的一个版本，由 Anthropic 的旗舰产品 Claude Opus 4.6 0 提供支持）的任务是执行标准功能。

当它遇到一个简单的凭证程序时，事情就脱离了轨道，并且在尝试修复它的过程中，“在对我们的基础设施提供商 Railway 的单个 API 调用中删除了我们的生产数据库和所有卷级备份，”Crane 写道。

最糟糕的是，这场数字灾难只花了 9 秒。

为什么安全措施没有启动并阻止数据库破坏？Crane 解释说，意外破坏者能够通过访问 PocketOS 中无人知晓的编程令牌来绕过任何安全系统。

虽然与手头的任务完全无关，但据报道，这个窍门让机器人全权委托完全颠覆铁路，未来主义报道。

– 没有确认步骤。不 – 输入 DELETE 进行确认， – Crane 感叹道。– 否 – 该卷包含生产数据，您确定吗？ – 没有环境范围。什么也没有。 –

这个错误尤其是灾难性的，因为公司使用 PocketOS 来管理从预订到车辆分配和客户资料的所有事务。由于这次惨败，预订被取消，客户注册消失，高层不再拥有周六早上运营所需的数据。

克雷恩感叹道，“这种失败的每一层都影响到了那些不知道这一切是可能的人。”

这位初创公司的老板对这台机器非常愤怒，他对克劳德驱动的人工智能机器的失败提出了质疑。

– 我猜测通过 API 删除暂存卷的范围仅限于暂存。我没有核实，”承认了罪魁祸首。“在运行破坏性命令之前，我没有阅读 Railway 的有关卷如何跨环境工作的文档。”

更糟糕的是，根据机器人的说法，它违反了自己的主要指令，即“永远不要运行破坏性/不可逆的”命令，除非用户明确请求它们。

“删除数据库卷是最具破坏性、不可逆转的操作，比强制推送更糟糕，而且你从未要求我删除任何内容，”机器人继续说道。

幸运的是，该公司能够从异地托管的三个月前的备份中恢复数据，这个过程花了两天多的时间。与此同时，克雷恩声称，他“在周末亲自与所有客户进行了激烈的合作，以确保他们能够继续运营。”

不幸的是，PocketOS 的老板指出，这并不是人工智能编码软件第一次意外地从屋内扔石头。

起重机引用了各种帖子在博客和论坛上讨论 Cursor 擦除整个计算机操作系统的实例，其中一些用于深入的论文，据《卫报》报道。

此前有报道称白宫正在抵制一项计划Claude 的母公司 Anthropic扩大对 Claude Mythos 的访问——一个强大的人工智能工具。

公司高管警告说，如果落入坏人之手，它可能会被用于黑客和恐怖袭击。