腾讯开源 DSpine：Qwen3.8-27B 专用并行草稿模型，厂商口径 SWE-bench Pro 回放吞吐约 3.19 倍、全面高于 DFlash2

核心背景与行业痛点

大模型逐个 Token 解码，每生成一个 Token 都要把整张网络跑一遍。在编码 Agent 这类长输出、多轮工具调用的场景里，这直接决定了等待时间和每张 GPU 能服务多少请求。投机解码的思路是：先由小草稿模型一次猜出多个 Token，再让大模型一次性验证、保留猜对的部分，输出分布不变。腾讯 11 月 7 日 14:20 UTC 在 Hugging Face 发布了 tencent/Qwen3.8-27B-DSpine-b16，专门给阿里开源的 Qwen3.8-27B 做草稿模型。X 上本地推理玩家 Lasse（@lasse_ai）转发时称其「全面胜过 DFlash2」，该帖抓取时约 148 赞、120 收藏。

架构亮点与底层机制

据模型卡，DSpine 并行生成草稿 Token，每一层把预测出的前序特征传给相邻位置，让因果依赖沿网络深度传递，而不是像自回归草稿那样一个个往后推。这个检查点是 5 层草稿模型，约 20.3 亿参数，块大小 16，滑动窗口 8,192 Token。推理时采用参考 DSpark 的动态验证，并开启 ReplaySSM。代码在 GitHub Tencent/DSpine，论文《Draft in Parallel, Condition Through Depth》为 arXiv 2609.36173。腾讯 10 月已先放出 Qwen3-8B 版本。

权威 Benchmark 与实测跑分对比

以下均为厂商口径，测试环境为 SGLang 0.5.22、BF16、FlashAttention 3、并发 8。SWE-bench Pro 回放在 xhigh 推理下，自回归约 248 tokens/s，DFlash2 约 712（2.87 倍），DSpine 约 791（3.19 倍）；WorkBuddy Office 在 low 推理下 DSpine 达 3.84 倍。接受长度方面，SWE-bench Pro xhigh 为 4.77 对 4.00，GSM8K 贪心解码为 7.20 对 5.69。需要注意，DSpine 每块草拟 16 个 Token，官方 DFlash2 为 8 个，两者配置并不对等；Agent 测试每个子集只回放 20 段对话，样本不大，目前没有第三方复现。

开发者实战落地与开箱指南

已在本地或自有集群跑 Qwen3.8-27B 编码 Agent 的团队可以直接试：克隆 Tencent/DSpine 并 pip install -e .，再用 sglang serve 加上 --speculative-algorithm DSPINE、--speculative-num-draft-tokens 16 并指向草稿模型路径，模型卡给出了完整参数（含 ReplaySSM 和 Mamba 缓存相关选项）。草稿模型额外占用约 4GB 显存。投机解码不改变输出分布，但实际加速取决于你的提示词分布和并发数，建议用自己的 Agent 日志回放对比，再决定是否替换 DFlash2 或 EAGLE 类方案。