Modal 将用 NVIDIA Vera CPU 跑 Agent 沙箱：高并发下吞吐最高达同级 x86 的 2 倍

核心背景与行业痛点

编码 Agent 和强化学习都要大量沙箱：一台云主机上同时跑几百个容器或虚拟机。Modal 指出，这类负载大部分时间在等大模型回话，但一次 npm install 或大范围 grep 就会让 CPU 突增到基线的 10 倍，形状事先无法预知。Modal 允许用户只按 P50 用量预留并靠突发余量兜底，这省钱，但也更容易遇到「吵闹邻居」。对后台 Agent 来说 CPU 慢就是答案慢；对同步 RL 训练来说，沙箱慢一秒，GPU 就空等一秒。

架构亮点与底层机制

Vera 是 NVIDIA 的 Arm 兼容 CPU，为 Vera Rubin GPU 平台设计，也可作为独立 CPU 服务器出售。NVIDIA 上周把第一台 Vera 服务器送到 Modal 旧金山办公室。Modal 认为 Vera 的关键是抗争抢：高内存带宽让每个核心能装下更多容器负载而不被限速。

权威 Benchmark 与实测跑分对比

以下均为 Modal 自测（厂商口径），官方未公布第三方跑分。Agentless Agent Bench 取 50 个 Terminal-Bench 官方解法和校验器，去掉网络调用并在并发 Docker 中预热。空载串行时，Vera 常常更快但并非总是，差距不大。并发吞吐测试中，Vera 最高达到同级 x86 GNR 机器的 2 倍吞吐，单任务延迟持平或更低；增加 CPU 数量时 x86 方案先到平台期，Vera 仍在上升。

开发者实战落地与开箱指南

Modal 表示将推出 Vera 支持，并与 NVIDIA 和云厂商合作扩大机群，但没有给出上线日期和价格。现阶段开发者照常用 Modal Sandboxes 文档接入即可；Vera 上线后要留意 Arm 镜像兼容性，例如依赖里是否有只提供 x86 的二进制包。跑 RL rollout 或大规模后台 Agent 的团队最值得关注，因为收益集中在高并发场景。