AI 编程实时动态与要闻

Meta AI（@AIatMeta）于 11 月 5 日宣布，Connect 上预览的 Muse Realtime Avatar 开始在美国 Muse App 灰度：把 Muse Realtime Voice 变成可互动的实时形象。研究博客称系统为音频驱动的 Diffusion Transformer，与语音共享 speech token 流以同步口型与表情；单会话在 GB200 上可流式输出 448×768@25fps，用户话轮结束到音视频首字节约 870ms，并用 Meta Video Seal 做不可见水印。面向 18+ 用户；官方未公布全球时间表与开发者 API。

查看大图

2026-10-23（UTC 16:53，SGT 10-24 00:53），Block 官方账号 @blocks 发布 Dessa，Jack Dorsey 随后转发称其为「迄今最真实的全双工语音模型」。官方页面 block.xyz/dessa 介绍：Dessa 是真正的语音到语音模型，训练数据只有人类对话录音，不用文本、不用任何预训练模型；全双工，能边听边说，会自然插话和附和（“yeah!”“got it!”），推理快于实时，可在 MacBook Pro M4 Max 或更高配置上本地运行。官方称只用一套 NVIDIA GB200 NVL72 完成训练，学习语言所需的词量比 LLM 少数百倍。目前没有公开 API 或权重，只向一小批 AI 安全研究者开放早期访问。

查看大图

在 DeepSeek 宣布开源其生产级推理引擎 DeepInfer 数小时后，vLLM 官方项目团队正式公布了针对 DeepSeek-V4.1-Flash 的实测重磅性能对标数据。采用 DeepSeek 官方完全相同的测试拓扑（131K 超长上下文、nextn=3 投机采样），vLLM 在 NVIDIA GB200 NVL 架构上针对 Batch Size 8~256 的全并发区间，将与 DeepInfer 的端到端吞吐差距压缩至 6% 以内；在下一代 GB300 架构上，单 GPU 吞吐量突破 1,000,000 Token/秒，单用户峰值输出达 826 Token/秒，折合单 GPU 每小时营收达 38.96 美元。同时宣布 FastH3-Omni 与 Spark-X2.6-4B 首发支持。

查看大图

10 月 20 日，UCSD Hao AI Lab 的 FastVideo 团队开源 FastH3 Omni，这是 MiniMax H3 参考生成音视频（Ref2VA）模型的蒸馏版，可同时用文本、最多 9 张图、视频片段和人声参考生成带同步立体声的视频。采样从 50 步降到 8 次 transformer 计算，官方在 8 张 GB200 上测得端到端延迟降低 5.6–11.9 倍，训练代码一并开源，并提供面向 DGX Spark、RTX 5090 的 NVFP4 权重和 ComfyUI 支持。

查看大图

Meta 工程博客 10 月 19 日发文，首次公开训练 Muse 系列（含 Muse Wonder）的俄亥俄州 New Albany 超算集群 Prometheus。一期已建成，目前有数十万块 GPU，满配目标约 100 万块。训练 Muse Wonder 时预训练 goodput（有效训练时间占比）超过 85%、强化学习超过 90%，平均无中断时间约 4.7 万 GPU 小时，之后经固件修复提升到 5.4 万以上。硬件为 GB200 NVL72 和 GB300 NVL72 两代平台，Vera Rubin NVL72 即将到位。

查看大图

半导体分析机构 SemiAnalysis 发布最新评测：Inferact（vLLM 核心团队）联合 Google 正式提交了首份基于 Google TPUv7 的 Kimi K3 2.8T 巨型 MoE 模型推理基准。在单芯片时租仅 1.21 美元（相比 GB300 2.31 美元、B300 2.26 美元、GB200 1.86 美元）下，借助 TorchTPU vLLM 大核与 TPU-Sync KVCache 卸载库，TPUv7 在 390 tok/s 超高交互区实现每美元 220 万 Token 吞吐，TCO 表现越级反超 NVIDIA GB200 NVL72、B300 与 AMD MI355X。

查看大图

Microsoft AI 于 2026-10-15 发布技术博客与 PDF，宣布完成自研基座 MAI-Base-2 的预训练：每层 MoE（1 个共享 + 512 选 7 路由专家），80B 激活 / 2.8T 总参，102 层，原生无编码器视觉，50T token 训练混合、知识截止 2026 年 3 月。官方口径：在自建/外包的留出集 BPB 上低于所有参测开源模型，预训练 FLOPs 效率为 DeepSeek-V4-Pro-Base 的 4.2–12.3 倍。模型仍在后训练中，暂无 API、权重或发布日期，微软计划经 Foundry 向受信伙伴授权权重。

查看大图

vLLM 团队联合 Inferact、Red Hat 与 NVIDIA 于 10 月 9 日发布 Rubin 早期支持：基于 CUDA 13.4 的每日镜像已可在 Vera Rubin NVL72 上服务 DeepSeek、Kimi、GLM、MiniMax。官方口径下，SemiAnalysis AgentX 上 MiniMax M3 同等交互性单卡吞吐最高为 GB200 的 7.84 倍；MLPerf Inference v6.1 的 VLM 项上 Qwen3-VL-235B-A22B 相对 GB300 NVL72 最高 3.7 倍。

查看大图

Inferact（vLLM 核心团队衍生公司）于 2026-09-23 发布并开源面向 TPU v7 的推理巨内核仓库 inferact/tpu-megakernels。官方博客显示，在 DSpark 推测解码（acceptance length=6）的低并发设定下，Kimi K3 在 16×TPU v7 Ironwood 上达到 709 tok/s，对照 16×GB200 基线 452 tok/s；关闭推测解码时，batch 1–8 约为 GB200 基线的 1.4–2×。整套 Kimi K3 的 92 层 MoE 解码被收敛进单一 Pallas 内核。

查看大图