LMSYS 博客 11 月 13 日发布 RadixArk Miles 团队文章:开源 RL 后训练框架 Miles 首次把智能体强化学习的全部沙箱放到英伟达 Vera CPU 上端到端训练 GLM-4.7-Flash。在机器已被其他任务占满的条件下,沙箱放在 AMD EPYC Turin 上时每轮平均多花 12%;满载时 Vera 单路可承载的负载是 Xeon 6 的 1.3–1.5 倍、Turin 的 1.4–2.1 倍。
核心要点速览
- ✓Miles 在 Vera 上跑了 68 个训练步、2,400 多轮,同步和全异步两种模式都无需改训练代码;为此把 Terminal-Bench 和 SWE-bench 中 530 个任务的环境重建为 arm64
- ✓对照实验(同模型、同任务、同 GPU,每边 5 步 160 轮):沙箱放在 Turin 上每轮平均多 53 秒,其中智能体命令多 26 秒(慢 60%),验证器多 11 秒
- ✓满载时 Vera 每核在 Python 和编译类工作上只慢 5%–22%,Turin 每核慢 40%–70%;176 个并发轮次的 Vera 仍快于只跑 24 轮的 Turin
- ✓团队推算:推理再快 8 倍时,Turin 上每轮会比 Vera 长 33%,快 32 倍时长 41%(为推算值,非实测)
- ✓以上均为 RadixArk 与英伟达合作的自测结果,x86 机器用 AWS 默认设置,Vera 用英伟达调优的启动参数
开发者 3 秒速决决策指标
把技术选型换算成你的开发预算
40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟
相关资源与官方项目出处
免代理直达深度技术解析与实战评估
背景与痛点
智能体强化学习(agentic RL)里,模型不只是写文字:它要在沙箱里执行命令、编译代码、跑测试,再根据结果决定下一步。一次训练常常同时开着几百个沙箱,跑沙箱的 CPU 会直接影响训练速度和规模。RadixArk 与英伟达合作,把开源 RL 后训练框架 Miles 的所有沙箱放到 Vera CPU 服务器上,官方称这是首个公开的此类端到端结果。
架构亮点与底层机制
沙箱服务基于开源 AgentENV,每个沙箱是一台轻量 Firecracker 虚拟机,从快照启动不到 0.1 秒;推理由 SGLang 在 GPU 集群上提供。每一轮(模型对一个任务的一次尝试)分配一个全新沙箱,智能体多轮下发命令,最后由验证器在同一沙箱跑测试打分。团队为 Vera 的 64K 内存页做了适配,并为 arm64 构建了 Firecracker。
权威 Benchmark 与实测跑分对比
在每路 CPU 先被 176 个后台任务占满的条件下,沙箱放在 AMD EPYC Turin 上时每轮平均多花 12%,四个任务分别多 9%–15%,模型思考时间两边相同。按「95% 命令不超过单独运行 1.5 倍耗时」的标准,Vera 单路可扛 Xeon 6 的 1.3–1.5 倍、Turin 的 1.4–2.1 倍负载。以上为 RadixArk 自测数据。
开发者实战落地与开箱指南
对自建 RL 训练的团队,沙箱机器的 CPU 选型值得单独评估:每轮越短,异步训练样本越新,等待命令时闲置的 KV 缓存也越少(文中 Turin 侧闲置 KV 缓存占 17.9%,Vera 为 12.1%)。Miles 支持多种智能体框架和沙箱后端,可在 miles.radixark.com 试用,完整方法和脚注见 LMSYS 博客。
即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察