一名人工智能代理指示一名工程师采取行动，将大量 Meta 敏感数据暴露给部分员工，这是人工智能在一家大型科技公司造成剧变的最新例子。

Meta 证实，此次泄密事件是一名员工在内部论坛上寻求有关工程问题的指导时发生的。人工智能代理给出了一个解决方案，该员工实施了该解决方案，导致大量敏感的用户和公司数据暴露给工程师两个小时。

“没有任何用户数据被错误处理，”Meta 发言人表示，他们强调，人类也可能会给出错误的建议。该事件最先由 The Information 报道，引发了 Meta 内部的重大内部安全警报，该公司表示，这表明了其对数据保护的重视程度。

这次违规行为是最近备受瞩目的几起违规事件之一事件这是由于美国科技公司越来越多地使用人工智能代理造成的。上个月，英国《金融时报》的一篇报道称，亚马逊至少经历了两次与其内部人工智能工具部署相关的服务中断。

随后有六名亚马逊员工接受《卫报》采访他们表示，该公司随意推动将人工智能整合到工作的所有元素中，导致明显的错误、草率的代码和生产力下降。

所有这些事件背后的技术——代理人工智能——在过去几个月里发展迅速。12 月，Anthropic 的 AI 编码工具 Claude Code 的开发引发广泛关注喧闹其自动预订剧院门票、管理个人财务、甚至种植植物的能力。

不久之后，OpenClaw 出现了，这是一个病毒式的人工智能个人助理它运行在 ClaudeCode 等代理之上，但可以完全自主运行——例如，交易数百万美元的加密货币，或大量删除用户电子邮件——导致人们热议 AGI（通用人工智能）的出现，AGI 是人工智能的总称，能够取代人类执行大量任务。

在接下来的几周里，由于担心人工智能代理将削弱软件业务，股市出现了波动。重塑经济并取代人类工人。

Tarek Nseir 是一家专注于企业如何使用人工智能的咨询公司的联合创始人，他表示，这些事件表明 Meta 和亚马逊正处于部署代理人工智能的“实验阶段”。

——他们并没有真正对这些事情袖手旁观，也没有真正进行适当的风险评估。如果你让一名初级实习生来做这件事，你永远不会让该初级实习生访问你所有的关键严重性 HR 数据，”他说。

——即使不是现在，Meta 回想起来，这个漏洞也会非常非常明显。我能说并且会说的是，这是 Meta 的大规模实验。这是 Meta 的大胆之处。”

专注于构建攻击性人工智能的安全专家杰米森·奥赖利 (Jamieson OâReilly) 表示，人工智能代理引入了人类不会犯的某种错误，这或许可以解释 Meta 发生的事件。

人类知道任务的“上下文”，即隐含的知识，例如，人们不应该为了给房间供暖而放火烧沙发，或者删除很少使用但很重要的文件，或者采取会暴露下游用户数据的操作。

对于人工智能代理来说，这更加复杂。它们有“上下文窗口”——一种工作记忆——其中包含指令，但这些指令会失效，从而导致错误。

– 一位在某个地方工作了两年的人类工程师四处走动，积累了对什么是重要的、凌晨 2 点发生了什么故障、停机成本是多少、哪些系统与客户有联系等方面的累积认识。这种背景存在于他们的内心，存在于他们的长期记忆中，即使它不在脑海中，”奥赖利说。

– 另一方面，代理则没有这些，除非您明确地将其放入提示中，即使如此，除非它存在于训练数据中，否则它会开始消失。 –

恩塞尔说：“不可避免地会出现更多错误。”