AI 编程实时动态与要闻

2026-11-06 Reflection 官方账号发布 Beam 模型技术报告（156 页 PDF），完整披露这款 501.3B/23.4B 激活 MoE 开源模型的训练方法：23.8T Token 预训练、6,144 张 GB300 不到 4 周完成，后训练在约 10.5K 张 GB300 上跑 4 周、生成超 1 亿条 rollout 的全异步 RL。报告称 FP8/NVFP4 量化分别保留 99.93%/98.98% 的中位分数，1.93B 草稿模型 DFlash 2 单请求解码提速 1.96–3.03 倍（均为厂商口径）。

查看大图

扩散智能 DiffuSpace（成员来自推出 Dream 7B 的港大 NLP 实验室）10 月 28 日发布首个模型 Clover-35B-A3B-Preview：基于 Qwen3.6-35B-A3B 初始化的 MoE 扩散语言模型，总参 35B、激活约 3B、128K 上下文，按块并行去噪生成。官方口径下 SWE-bench Verified 73.6、Terminal-Bench 2.1 51.7、GPQA Diamond 83.8，单张 GB300 上 Agent 场景生成速度 680 tokens/s。权重 Apache 2.0，已上 Hugging Face、ModelScope 和 GitHub，支持 SGLang 与 llama.cpp。

查看大图

在 DeepSeek 宣布开源其生产级推理引擎 DeepInfer 数小时后，vLLM 官方项目团队正式公布了针对 DeepSeek-V4.1-Flash 的实测重磅性能对标数据。采用 DeepSeek 官方完全相同的测试拓扑（131K 超长上下文、nextn=3 投机采样），vLLM 在 NVIDIA GB200 NVL 架构上针对 Batch Size 8~256 的全并发区间，将与 DeepInfer 的端到端吞吐差距压缩至 6% 以内；在下一代 GB300 架构上，单 GPU 吞吐量突破 1,000,000 Token/秒，单用户峰值输出达 826 Token/秒，折合单 GPU 每小时营收达 38.96 美元。同时宣布 FastH3-Omni 与 Spark-X2.6-4B 首发支持。

查看大图

10 月 20 日，NVIDIA GEAR 实验室（Jim Fan 团队）开源 Flora 模型套件，把人类和机器人操作视频转成带时间戳的动作描述、过程奖励、结果奖励和评分细则。套件含 Flora-Captioner 27B、Flora-Rewarder 27B（均基于 Qwen3.5-27B）和 Flora-TempSeg 9B（Qwen3.5-9B 上的 LoRA），权重已上 Hugging Face，采用 NVIDIA 非商用许可。官方称它是训练 GR00T 的内部数据引擎，每天在 512 张 GB300 上标注 20 万小时视频，标注质量与 GPT-6 Astra 相当，成本约低 125 倍。

查看大图

Meta 工程博客 10 月 19 日发文，首次公开训练 Muse 系列（含 Muse Wonder）的俄亥俄州 New Albany 超算集群 Prometheus。一期已建成，目前有数十万块 GPU，满配目标约 100 万块。训练 Muse Wonder 时预训练 goodput（有效训练时间占比）超过 85%、强化学习超过 90%，平均无中断时间约 4.7 万 GPU 小时，之后经固件修复提升到 5.4 万以上。硬件为 GB200 NVL72 和 GB300 NVL72 两代平台，Vera Rubin NVL72 即将到位。

查看大图

半导体分析机构 SemiAnalysis 发布最新评测：Inferact（vLLM 核心团队）联合 Google 正式提交了首份基于 Google TPUv7 的 Kimi K3 2.8T 巨型 MoE 模型推理基准。在单芯片时租仅 1.21 美元（相比 GB300 2.31 美元、B300 2.26 美元、GB200 1.86 美元）下，借助 TorchTPU vLLM 大核与 TPU-Sync KVCache 卸载库，TPUv7 在 390 tok/s 超高交互区实现每美元 220 万 Token 吞吐，TCO 表现越级反超 NVIDIA GB200 NVL72、B300 与 AMD MI355X。

查看大图

vLLM 联合 NVIDIA 正式发布面向月之暗面旗舰模型 Kimi K3（SemiAnalysis 披露达 2.8 万亿参数）的底层解码巨型内核（Megakernel）：由 NVIDIA CentML 工程师采用 CuTe DSL 编写的 1.2 万行代码将注意力、MoE 路由与跨卡通信深度融合，将单层内核启动数从 23 个砍至 13 个、单层耗时从 130 µs 压至 69 µs。在 16 卡 NVIDIA GB300 NVL72 上配合 DSpark 投机解码实现 Batch=1 高达 842 tok/s 的极速输出（提速 1.73 倍），并在 SemiAnalysis AgentX 负载上实现最高 1.8 倍的 P90 单用户交互吞吐提升（突破 403.2~423 tok/s/user），下一步将适配 DeepSeek-V4.1-Flash 与 GLM-5.3。

查看大图

vLLM 官方博客（作者 NVIDIA 的 Benjamin Chislett）披露：借助编码 Agent 辅助开发，团队为 Kimi K3 在 NVIDIA GB300 上重写了一条 CuTe DSL 统一解码路径，把注意力、MoE 与 NVLink 通信融合，单层耗时从 130 微秒/23 个 kernel 降到 69 微秒/13 个。16 卡配合 DSpark 投机解码在 batch 1 达到 842 tok/s，是原版 vLLM 的 1.73 倍；相关 PR #61867 已于 10 月 16 日合入。

查看大图

vLLM 团队联合 Inferact、Red Hat 与 NVIDIA 于 10 月 9 日发布 Rubin 早期支持：基于 CUDA 13.4 的每日镜像已可在 Vera Rubin NVL72 上服务 DeepSeek、Kimi、GLM、MiniMax。官方口径下，SemiAnalysis AgentX 上 MiniMax M3 同等交互性单卡吞吐最高为 GB200 的 7.84 倍；MLPerf Inference v6.1 的 VLM 项上 Qwen3-VL-235B-A22B 相对 GB300 NVL72 最高 3.7 倍。

查看大图