AI 编程实时动态与要闻

2026-11-06 Reflection 官方账号发布 Beam 模型技术报告（156 页 PDF），完整披露这款 501.3B/23.4B 激活 MoE 开源模型的训练方法：23.8T Token 预训练、6,144 张 GB300 不到 4 周完成，后训练在约 10.5K 张 GB300 上跑 4 周、生成超 1 亿条 rollout 的全异步 RL。报告称 FP8/NVFP4 量化分别保留 99.93%/98.98% 的中位分数，1.93B 草稿模型 DFlash 2 单请求解码提速 1.96–3.03 倍（均为厂商口径）。

查看大图

Ricursive Intelligence 于 11 月 4 日（UTC 18:24）发布首个模型 Ripple-65B Preview，并在 Hugging Face 以 Apache 2.0 开源指令版（BF16、NVFP4）和基座版。官方模型卡显示：65B 稠密 Transformer、12T token 预训练、最长 1M 上下文，自报 TerminalBench 2.1 80.5、SWE-bench Pro v2.0 Hard 79.1、DeepSWE 1.1 44.3，在编码 Agent 任务上超过参数大得多的美国开源模型；可在 DGX Spark 等本地硬件运行。CEO Anna Goldie 称成本约为此前同类 SOTA 的十分之一。

查看大图

Mistral 10 月 29 日发布改进版 Mistral Large 4（Le Chonk）并开放权重，已上架 Hugging Face（另有 NVFP4 量化版），API 名为 mistral-large-4。相比 10 月初的公开预览，多做了约三周强化学习：官方口径 FrontierCode 2.0 得分 19.7%、Terminal-Bench 4.0 从 28% 升到 41%，并新增 low/medium/high 三档推理。许可证为改版 MIT，商用可用，但做模型即服务需另签商业许可。

查看大图

10 月 20 日，UCSD Hao AI Lab 的 FastVideo 团队开源 FastH3 Omni，这是 MiniMax H3 参考生成音视频（Ref2VA）模型的蒸馏版，可同时用文本、最多 9 张图、视频片段和人声参考生成带同步立体声的视频。采样从 50 步降到 8 次 transformer 计算，官方在 8 张 GB200 上测得端到端延迟降低 5.6–11.9 倍，训练代码一并开源，并提供面向 DGX Spark、RTX 5090 的 NVFP4 权重和 ComfyUI 支持。

查看大图

vLLM 于 10 月 18 日发布 v0.32.0，363 位贡献者（121 位新人）提交 814 次。重点包括默认提供的 POST /v1/systemone 结构化决策接口与通用 hf 工具/推理解析器；NVFP4 KV 缓存扩展到 SM8x/SM90/SM12x，GLM-5.x 在 SM100 默认 FP8 KV；Model Runner V2 新增 GPU n-gram 投机与 Elastic EP，并成为 ROCm 默认；修复 3 个安全公告并收紧 CORS 默认值，同时放弃 Python 3.10。

查看大图

NVIDIA 于 10 月 16 日在 Hugging Face 上架 Nemotron-Labs Dory1.0-4B：20 层共享循环块可在推理时跑 1/2/4 轮，一份权重换不同算力档位；官方口径 4 轮 SWE-bench Verified 61.8，接近 Qwen3.5-9B。提供 BF16/MXFP8/NVFP4/GGUF，OpenMDW-1.1 许可。

查看大图

Meta 于 2026-10-15 放出 Muse Spark Open 开源权重：816B 总参、每 token 激活 42B 的 MoE + Perception Encoder，原生支持文本/图像/视频/音频输入与 1M 上下文，定位编码与长程智能体。权重上 Hugging Face（BF16/NVFP4）、SageMaker、Model Garden 与 Foundry；API 已通 OpenRouter、Together、Fireworks、Groq 等。官方称其为迄今最强美系开源权重，并与 Apple 合作使双台 M5 Ultra Mac Studio 经 MLX 本地跑通。

查看大图

Black Forest Labs 于 2026-10-15 发布 FLUX 3 Image Klein：5.6B 参数的开源权重图像模型，覆盖文生图、图像编辑与最多 10 张参考图的多参考生成，继承 FLUX 3 的原生 4K、像素级编辑与边界框定位能力。同时提供可微调的 base 版与步数蒸馏版，以及与 NVIDIA 合作的 FP8/INT8/NVFP4 构建；INT8 版可在 8GB 显存的 RTX 显卡上运行。权重采用 FLUX Kommunity License（年收入低于 500 万美元可免费商用），BFL API 同步上线。

查看大图

阶跃星辰于 2026-10-15 履约放出 Step 5 Preview 开源权重：600B 总参、每 token 激活 27B 的稀疏 MoE，支持最长 1M token 上下文与视觉输入，定位智能体与软件工程。权重已上 Hugging Face（FP8/BF16/NVFP4）与 ModelScope；官方评测 StepCodeBench 49.0%、FrontierFinance 66.4%、Artificial Analysis Intelligence Index 44。此前 9 月仅有 API/指数报道，本次是权重本身首次公开可下载。

查看大图

2026-10-16 Hugging Face 与 Reflection 确认 Beam 权重已开放下载：稀疏 MoE 总参约 501B、每 token 激活约 23B，上下文 1M，Apache 2.0。提供 BF16/FP8/NVFP4 检查点，transformers≥5.20.1、vLLM、SGLang 当日可用；模型卡自报 SWE-bench Verified 81.6%（BF16）、Terminal-Bench 2.1 80.1%、MCP Atlas 80.8%（厂商口径）。此前 10 月 5 日官宣「本月放权」的等待已结束。

查看大图

大语言模型（LLM）的预填充（Prefill）与解码（Decode）阶段对底层硬件提出截然相反的要求：Prefill 是典型的计算密集型，依赖超低精度算术核心（如 FP4/INT4）快速吞吐长 Prompt；而 Decode 是典型的显存带宽受限型，需要紧凑的超低比特权重（如 2-3 bit Weight-Only）减少每次访存延迟。然而传统的全流程统一量化方案迫使两者相互妥协，导致性能与精度双重折损。来自顶尖系统团队与 IST Austria 的重磅研究《Disaggregated Quantization: Specializing LLM Prefill and Decode》（arXiv:2609.26333）开创了“分离量化（DQ）”体系：为 Prefill 与 Decode 定制各自独立的计算格式、量化权重与物理存储布局。针对单卡显存受限场景，创新推出卸载式分离预填充（ODP），通过 NVMe SSD 异步流式加载 NVFP4 预填充权重，在 llama.cpp 与 8K 长文本上将 Qwen3.8-27B 首 Token 生成延迟（TTFT）暴降 1.78 倍，并在 vLLM 分布式环境中验证了高达 2.8T 参数超大规模模型的完美兼容性。

查看大图

针对大语言模型在 Prefill（计算受限）与 Decode（显存带宽受限）阶段对量化格式需求迥异的本质矛盾，ISTA 与 Neural Magic 等团队提出解耦量化（Disaggregated Quantization, DQ）。通过为 Prefill 阶段训练计算原生的 NVFP4 权重，同时为 Decode 阶段保留 2-3 比特超紧凑权重，并结合从 SSD 流式加载的卸载解耦预填充（ODP）技术，在 8K 上下文下将首字时延（TTFT）加速 1.78 倍，1 比特解码在 MMLU-Pro 上准确率跃升 32.5 分。

查看大图