NVIDIA 开源 Nemotron 3.5 Super VL：120B-A12B 多模态智能体模型、1M 上下文；同步放出 2-bit 24GB 本地版 Bolt 74B-A9B

核心背景与行业痛点

企业里「常驻智能体」一次任务往往要读 PDF、看图表、查网页、再连调多个工具。过去的开源方案通常是文本模型 + 独立视觉模型拼接，上下文在两套系统间来回传，延迟和出错点都翻倍；闭源前沿模型又无法私有化微调。NVIDIA 这次把「看得懂文档 + 会用工具 + 可在自家机房后训练」打包成一个开源模型，并按服务器 / 本地 / 边缘分档发布。

架构亮点与底层机制

Nemotron 3.5 Super VL 为 120B 总参、12B 激活的 Mamba-2/Transformer 混合 MoE，接 C-RADIO 视觉编码器，最长 1M 上下文。它由 Nemotron 3 Ultra 蒸馏而来，预训练与续训约 26T token，后训练约 380 万样本并在数十个 RL 环境中强化。推理侧叠加 MTP、开源投机解码 LiLiCorr（DGX Spark 上最高 2.3 倍）与 NVFP4 量化感知蒸馏。同日的 Bolt 74B-A9B 24GB 用原生 2-bit 训练塞进 24GB 显存，面向 RTX/DGX Spark 本地 Agent。

权威 Benchmark 与实测跑分对比

以下均为 NVIDIA 模型卡的厂商口径：Super VL 的 SWE-bench Verified 71.10、Terminal-Bench 2.1 66.70、BrowseComp 78、OSWorld-Verified 51.14；对照 Qwen3.5-122B-A10B 为 71.9 / 48.70 / 58.1 / 51.5，GLM-5.3-Flash 的 SWE-bench Verified 为 79.10，仍更高。技术博客给出 Hermes Bench 63.44%、LangChain Evals 87.05%，均高于 Nemotron 3 Ultra。Bolt 在 Terminal-Bench 2.1 拿到 50.98，对照 Qwen3.6-35B-A3B 为 44.38。第三方独立复测尚待公布。

开发者实战落地与开箱指南

最快的试用路径是 OpenRouter（当前有 1M 上下文的免费档）或 NVIDIA NIM。自托管可用 vLLM v0.32.0：--tool-call-parser qwen3_coder --reasoning-parser nemotron_v3，并开启 MTP 投机解码；enable_thinking 控制推理模式。本地单机优先试 Bolt（llama.cpp、Ollama、LM Studio、Unsloth 均已支持）。注意 OpenMDW-1.1 许可条款，后训练可走 NeMo AutoModel/RL 与 ModelScope ms-swift。