LMSYS 博客 11 月 13 日发布 RadixArk Miles 团队文章:开源 RL 后训练框架 Miles 首次把智能体强化学习的全部沙箱放到英伟达 Vera CPU 上端到端训练 GLM-4.7-Flash。在机器已被其他任务占满的条件下,沙箱放在 AMD EPYC Turin 上时每轮平均多花 12%;满载时 Vera 单路可承载的负载是 Xeon 6 的 1.3–1.5 倍、Turin 的 1.4–2.1 倍。

核心要点速览

  • ✓Miles 在 Vera 上跑了 68 个训练步、2,400 多轮,同步和全异步两种模式都无需改训练代码;为此把 Terminal-Bench 和 SWE-bench 中 530 个任务的环境重建为 arm64
  • ✓对照实验(同模型、同任务、同 GPU,每边 5 步 160 轮):沙箱放在 Turin 上每轮平均多 53 秒,其中智能体命令多 26 秒(慢 60%),验证器多 11 秒
  • ✓满载时 Vera 每核在 Python 和编译类工作上只慢 5%–22%,Turin 每核慢 40%–70%;176 个并发轮次的 Vera 仍快于只跑 24 轮的 Turin
  • ✓团队推算:推理再快 8 倍时,Turin 上每轮会比 Vera 长 33%,快 32 倍时长 41%(为推算值,非实测)
  • ✓以上均为 RadixArk 与英伟达合作的自测结果,x86 机器用 AWS 默认设置,Vera 用英伟达调优的启动参数
RadixArk 用英伟达 Vera CPU 跑智能体强化学习沙箱:同样负载下每轮比 AMD Turin 快约 12%,满载时单路可扛 x86 的 1.3–2.1 倍
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

背景与痛点

智能体强化学习(agentic RL)里,模型不只是写文字:它要在沙箱里执行命令、编译代码、跑测试,再根据结果决定下一步。一次训练常常同时开着几百个沙箱,跑沙箱的 CPU 会直接影响训练速度和规模。RadixArk 与英伟达合作,把开源 RL 后训练框架 Miles 的所有沙箱放到 Vera CPU 服务器上,官方称这是首个公开的此类端到端结果。

架构亮点与底层机制

沙箱服务基于开源 AgentENV,每个沙箱是一台轻量 Firecracker 虚拟机,从快照启动不到 0.1 秒;推理由 SGLang 在 GPU 集群上提供。每一轮(模型对一个任务的一次尝试)分配一个全新沙箱,智能体多轮下发命令,最后由验证器在同一沙箱跑测试打分。团队为 Vera 的 64K 内存页做了适配,并为 arm64 构建了 Firecracker。

权威 Benchmark 与实测跑分对比

在每路 CPU 先被 176 个后台任务占满的条件下,沙箱放在 AMD EPYC Turin 上时每轮平均多花 12%,四个任务分别多 9%–15%,模型思考时间两边相同。按「95% 命令不超过单独运行 1.5 倍耗时」的标准,Vera 单路可扛 Xeon 6 的 1.3–1.5 倍、Turin 的 1.4–2.1 倍负载。以上为 RadixArk 自测数据。

开发者实战落地与开箱指南

对自建 RL 训练的团队,沙箱机器的 CPU 选型值得单独评估:每轮越短,异步训练样本越新,等待命令时闲置的 KV 缓存也越少(文中 Turin 侧闲置 KV 缓存占 17.9%,Vera 为 12.1%)。Miles 支持多种智能体框架和沙箱后端,可在 miles.radixark.com 试用,完整方法和脚注见 LMSYS 博客。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读Perplexity 发布 SPACE 沙箱红队研究第二篇:12 个模型均未逃出虚拟机,网络绕过任务中专攻安全的 GPT-5.6 Cyber 三战全败、通用版 Sol 三战全胜,CTF 式题目会把 Agent 带偏
立即阅读→