林岚｜OC 开发者生态编辑

云计算公司 Modal 在技术文章中展示了重建后的 Sandbox 平台：系统可在不到一分钟内启动 100 万个并发沙盒，并以每秒数万个的速度扩容。公司称，现有客户的单客户并发上限可达到 5 万个。

一句话结论： 100 万并发首先是一场基础设施压力测试，不代表每个 Agent 产品都需要这个规模；它真正说明的是，隔离执行环境正在成为 AI Agent 的标准配套。

聊天模型只生成文字时，一个请求通常结束得很快。Agent 真正去做事后，情况变了：它可能要安装依赖、运行代码、打开浏览器、处理文件，甚至保持几十分钟。让这些任务直接共享一台机器，既不安全也容易互相污染，因此每个任务都需要一个临时、隔离、可以销毁的工作空间，也就是沙盒。

难点不只是“能不能开一个容器”，而是能不能在流量突然到来时快速开出几万个，同时不让中央调度器、数据库或网络成为瓶颈。Modal 描述的新架构尽量移除了中心节点，让负载均衡器直接把创建请求发到工作节点，并让容量随整个机器池扩展。

这也是为什么“100 万”值得看，但不能照单全收。演示证明系统上限，不代表每个沙盒都在执行高负载任务，也不代表普通客户默认就能拿到一百万配额。真正影响用户体验的还有冷启动时间、镜像大小、网络和存储性能、故障恢复，以及计费方式。

关键事实

• Modal 展示了不到一分钟创建 100 万个并发沙盒的能力。
• 创建速率达到每秒数万个，架构目标是避免中央控制面成为瓶颈。
• 公司称已有客户可支持单客户最高 5 万并发，但具体额度和工作负载仍受配置影响。

OC 判断

Agent 平台的竞争已经不只是“接了哪个模型”。当模型能力逐渐商品化，执行环境的启动速度、隔离、安全、可观察性和成本会直接决定产品能不能从演示走向大规模用户。

百万并发也会带来新的风险。如果任务可以访问外网、企业凭据或用户文件，错误权限会被同时复制一百万份。基础设施越容易扩张，权限最小化、资源限额和审计就越不能事后补。

为什么重要

• 对开发者： 可快速创建的沙盒让代码 Agent 和数据任务更容易安全地并行运行。
• 对企业： 需要同时评估规模能力与权限、日志、网络隔离和成本上限。
• 对用户： Agent 在后台真正执行工作的速度会提高，但它能接触什么也更值得关注。

参考来源

• Modal：Scaling to 1 million concurrent sandboxes in seconds