SemiAnalysis 拆解 AgentX 13 亿 Token/$ 纪录：vLLM 联合 Inferact 分离式架构较 B300 聚合模式飙升 4 倍，Cline 揭秘多 Harness 强化学习红利

核心背景与行业痛点

在长程代码智能体（Coding Agents）的大规模商业化落地中，算力基础设施与模型后训练正面临两个核心工程追问：第一，在搭载最新一代 NVIDIA B300 等旗舰 GPU 的超大规模集群上，传统的“单实例同时混跑预填充（Prefill）与解码（Decode）”聚合式部署（Aggregated Serving），为何在面对长前缀、高频工具调用的 Agent 流量时算力利用率极低？第二，在不改变底层 Transformer/MoE 模型结构与基础算法的前提下，如何让开源模型在真实终端与 IDE 编程任务上跨越与闭源旗舰（如 GPT-5.6-Sol）的鸿沟？

架构亮点与底层机制

今日 SemiAnalysis (@SemiAnalysis_) 发布的 AgentX “Tokenmaxxing” 硬件成本报告与开源编程智能体 Cline (@cline) 的工程复盘，分别从“分离式推理系统工程”与“多 Harness 强化学习后训练”揭示了答案：

• vLLM × Inferact 预填充/解码分离式架构（Disaggregated Serving）：针对 Agent 工作流中“重计算、高吞吐的百万上下文增量预填充”与“重显存带宽、低延迟的流式动作解码”资源特征截然相反的痛点，@vllm_project 与 @inferact 在 SemiAnalysis AgentX 评测中彻底抛弃了传统的单节点聚合模式，将 Prefill 集群与 Decode 集群物理拆分并配合高速 KV 缓存传输通道。这使两类节点各自运行在最优算力/带宽甜点区，消除相互抢占带来的流水线停顿。
• Cline 揭秘“零算法改动”的多 Harness 强化学习扩展（Multi-Harness RL Scaling）：@cline 团队在深度拆解 DeepSeek-V4.1-Flash-1017 的跃升路径时指出，该版本相比初代 V4.1-Flash 没有任何底层模型架构或基础算法的创新（No Algorithmic Innovation），其核心秘诀在于将强化学习（RL）直接置于多套真实、异构的编程智能体脚手架（Multiple Coding Agent Harnesses，涵盖 DeepSeek Harness、Tencent CodeBuddy 及开源终端/编辑器执行环境）中进行大规模交互训练，从而倒逼模型学会精简无用输出、精准调用工具并适应不同沙箱的错误反馈格式。

权威 Benchmark 与实测跑分对比

• SemiAnalysis AgentX 算力经济学对比：在超大规模云厂商批量采购计价（Hyperscaler Volume Pricing）口径下，vLLM 与 Inferact 协同调优的分离式推理架构实现了 每美元总拥有成本（TCO）产出 13 亿（1.3 Billion）Token 的行业新纪录，其单位美元产出效率比 NVIDIA B300 标准聚合式配置（B300 Aggregated Configuration）整整高出 4 倍（4x Better）。
• Terminal-Bench 跨代跃升与 17 倍成本优势：根据 @cline 披露的对比数据，DeepSeek-V4.1-Flash-1017 在权威终端工程基准 Terminal-Bench 4.0 上拿下 42.3%，不仅比上一代 DeepSeek-V4.1-Flash 暴涨 35%，更正面击败了 OpenAI 的 GPT-5.6-Sol，而单次任务的 API 推理成本仅为后者的 约 1/17（~17x Cheaper）。

开发者实战落地与开箱指南

对于运维千卡级 GPU 推理集群的 AI Infra 团队，应加速从传统的单实例 Aggregated 部署迁移至基于 vLLM + Inferact 的 Prefill/Decode 分离式架构，尤其是在 B200/B300 集群上面向 Coding Agent 提供高命中前缀缓存服务时，可直接斩获最高 4 倍的 TCO 收益。对于正在训练垂类代码或办公 Agent 的算法团队，Cline 的实测印证了一个极具性价比的黄金法则：与其耗费巨资改动预训练底座架构，不如构建涵盖 Cline、OpenHands、Claude Code 风格工具链的多样化真实 Agent Harness 矩阵进行端到端多环境 RL 后训练。