NVIDIA 于 10 月 16 日在 Hugging Face 上架 Nemotron-Labs Dory1.0-4B：20 层共享循环块可在推理时跑 1/2/4 轮，一份权重换不同算力档位；官方口径 4 轮 SWE-bench Verified 61.8，接近 Qwen3.5-9B。提供 BF16/MXFP8/NVFP4/GGUF，OpenMDW-1.1 许可。
核心要点速览
- ✓结构：36 层 = 8 输入 + 20 共享循环 + 8 输出，循环 1/2/4 轮可在推理时切换，默认 2 轮（模型卡）
- ✓官方口径 SWE-bench Verified：1 轮 50.3 / 2 轮 59.5 / 4 轮 61.8；同表 Qwen3.5-9B 为 61
- ✓Terminal-Bench 2.1 四轮 22.2，仍明显落后 Qwen3.6-35B-A3B 的 43，小模型短板依旧
- ✓DGX Spark 上 NVFP4 版 较 BF16 提速约 2.17–2.44 倍；last-loop KV 缓存让显存不随循环数增长
- ✓vLLM（PR #60149）与 llama.cpp（PR #30306）支持尚未合入正式版，需从 PR 构建
把技术选型换算成你的开发预算
40 款主流编程套餐横向比价，支持输入/输出 Token 真实账单模拟
相关资源与官方项目出处
免代理直达深度技术解析与实战评估
核心背景与行业痛点
本地跑编码 Agent 的团队一直卡在两难：小模型省显存但推理深度不够，大模型能干活却塞不进单卡。2026-10-16 NVIDIA 在 Hugging Face 低调上架 Nemotron-Labs Dory1.0-4B，没有发博客，却带来一个新思路：同一份 4B 权重，推理时可以选「想几遍」。
架构亮点与底层机制
Dory 是循环（latent-recurrent）nGPT：36 层被拆成 8 层输入、20 层共享循环块、8 层输出，循环块可重复执行 1/2/4 次，每轮重新注入输入，不增参数即可加深计算。注意力为滑动窗与全注意力交错，上下文 256K，仅支持英文。预训练 6T tokens、先以 NVFP4 原生训练再转 BF16，另做 300B tokens 长上下文扩展，后训练用 GRPO 多环境 RL。「last-loop KV 缓存」让 KV 占用不随循环次数增长。
权威 Benchmark 与实测跑分对比
以下均为 NVIDIA 模型卡口径，尚无第三方复测：SWE-bench Verified 1/2/4 轮分别 50.3/59.5/61.8，与表中 Qwen3.5-9B 的 61 相当；Terminal-Bench 2.1 四轮 22.2，仍低于 Qwen3.6-35B-A3B 的 43；IFBench 79。DGX Spark 上 NVFP4 版较 BF16 提速约 2.17–2.44 倍。
开发者实战落地与开箱指南
官方推荐默认 2 轮，Agent 任务可开到 4 轮。vLLM 支持仍在 PR #60149 审核中，需从该 PR 安装，用 --hf-overrides 设 n_recurrent_loops；Mac 用户可按 llama.cpp PR #30306 构建并加载 Q5_K_M GGUF（约 3.67GB）。许可为 OpenMDW-1.1，可商用。
即刻查看该技术对应模型与主流工具的实测差异，或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察