AI 编程实时动态与要闻

Meta AI（@AIatMeta）于 11 月 5 日宣布，Connect 上预览的 Muse Realtime Avatar 开始在美国 Muse App 灰度：把 Muse Realtime Voice 变成可互动的实时形象。研究博客称系统为音频驱动的 Diffusion Transformer，与语音共享 speech token 流以同步口型与表情；单会话在 GB200 上可流式输出 448×768@25fps，用户话轮结束到音视频首字节约 870ms，并用 Meta Video Seal 做不可见水印。面向 18+ 用户；官方未公布全球时间表与开发者 API。

查看大图

11 月 3 日，模型压缩公司 Pruna AI 开源 P-H3-Image：基于 MiniMax 今夏开源的 MiniMax-H3 视频模型，改造成文生图与图像编辑模型。官方口径：采样步数从 50 步降到 8 步，4MP 图在单张 B200 上从 12.4 秒降到 2.6 秒；4-bit 版下载 20GB（H3 为 143GB），8MP 峰值显存约 21GB；支持 2–16MP 输出和多图参考编辑。权重已上 Hugging Face，ComfyUI 原生支持。注意它沿用 MiniMax H3 社区许可，欧盟、英国、韩国和美国默认不在授权范围内。

查看大图

印度 AI 公司 Sarvam 于 11 月 3 日发布 Sarvam Prism，一款面向企业工作流的「System One」决策模型：给定上下文和若干带固定选项的问题，它在一次前向计算里直接返回每个选项的概率，不生成文本。官方称在其测试的 25 个决策模型中，Prism 三项指数平均 71.8 分、在单张 B200 上中位响应 44 毫秒，是 100 毫秒内得分最高的模型；印度语言基准 82.5。权重以 Apache 2.0 发布在 Hugging Face，同时提供托管 API。以上分数均为 Sarvam 自测。

查看大图

a16z 10 月 30 日发布的 Charts of the Week（作者 Moses Sternstein）讨论了「Rack Spread」：GPU 租金在涨，token 价格在跌。a16z 官方 X 账号 10 月 31 日总结：5 月以来 token 均价下降 67%，token 花费增长超过 120%；按文章的粗算，用 Ramp 数据得出约 122%，用 Ornn 混合单价乘 OpenRouter 用量得出约 160%。另一条帖子给出 7 月中以来 B300 租金涨 106%、B200 涨 66%、H100 涨 17%。a16z 同时强调这些指数样本小且有偏差，不能代表真实总需求。

查看大图

2026-10-23（UTC 16:53，SGT 10-24 00:53），Block 官方账号 @blocks 发布 Dessa，Jack Dorsey 随后转发称其为「迄今最真实的全双工语音模型」。官方页面 block.xyz/dessa 介绍：Dessa 是真正的语音到语音模型，训练数据只有人类对话录音，不用文本、不用任何预训练模型；全双工，能边听边说，会自然插话和附和（“yeah!”“got it!”），推理快于实时，可在 MacBook Pro M4 Max 或更高配置上本地运行。官方称只用一套 NVIDIA GB200 NVL72 完成训练，学习语言所需的词量比 LLM 少数百倍。目前没有公开 API 或权重，只向一小批 AI 安全研究者开放早期访问。

查看大图

在 DeepSeek 宣布开源其生产级推理引擎 DeepInfer 数小时后，vLLM 官方项目团队正式公布了针对 DeepSeek-V4.1-Flash 的实测重磅性能对标数据。采用 DeepSeek 官方完全相同的测试拓扑（131K 超长上下文、nextn=3 投机采样），vLLM 在 NVIDIA GB200 NVL 架构上针对 Batch Size 8~256 的全并发区间，将与 DeepInfer 的端到端吞吐差距压缩至 6% 以内；在下一代 GB300 架构上，单 GPU 吞吐量突破 1,000,000 Token/秒，单用户峰值输出达 826 Token/秒，折合单 GPU 每小时营收达 38.96 美元。同时宣布 FastH3-Omni 与 Spark-X2.6-4B 首发支持。

查看大图

10 月 20 日，UCSD Hao AI Lab 的 FastVideo 团队开源 FastH3 Omni，这是 MiniMax H3 参考生成音视频（Ref2VA）模型的蒸馏版，可同时用文本、最多 9 张图、视频片段和人声参考生成带同步立体声的视频。采样从 50 步降到 8 次 transformer 计算，官方在 8 张 GB200 上测得端到端延迟降低 5.6–11.9 倍，训练代码一并开源，并提供面向 DGX Spark、RTX 5090 的 NVFP4 权重和 ComfyUI 支持。

查看大图

Meta 工程博客 10 月 19 日发文，首次公开训练 Muse 系列（含 Muse Wonder）的俄亥俄州 New Albany 超算集群 Prometheus。一期已建成，目前有数十万块 GPU，满配目标约 100 万块。训练 Muse Wonder 时预训练 goodput（有效训练时间占比）超过 85%、强化学习超过 90%，平均无中断时间约 4.7 万 GPU 小时，之后经固件修复提升到 5.4 万以上。硬件为 GB200 NVL72 和 GB300 NVL72 两代平台，Vera Rubin NVL72 即将到位。

查看大图

Viggle 10 月 19 日发布 JST-2。它不在像素或视频空间里学习，而是把世界表示为 3D 空间中的持久「原子」（Physics-Native Tokens），用一套架构同时生成场景、角色和动作。官方称在 NVIDIA B200 上约 1 秒生成一个 3D 场景，推理成本低于 0.01 美元，最多保留 64 个输入视角作为空间上下文；角色无需单独绑骨即可动画。现已在浏览器端 PINOC 免费试用，并提供 API 和 MCP。

查看大图

传统投机解码（Speculative Decoding）依赖目标模型的静态隐层特征，无法适应草稿模型随位置变化的动态上下文需求。香港大学团队发表 ReaDy（arXiv:2610.20503，HF 6 赞）。该框架首次为混合线性注意力模型（Hybrid Linear Attention，结合 Transformer 与 Mamba/RWKV 循环层）设计了以紧凑循环隐状态为动态上下文的投机草稿机制。在 NVIDIA B200 单卡上对 Qwen3.8-27B 展开评测，投机接受长度达 4.53，单卡解码吞吐飙升至 302.78 TPS，较标准自回归提速 2.4 倍。

查看大图

SGLang 团队正式发布 v0.5.22 大版本更新（凝聚 245 位贡献者提交的 950 个 PR）：深度优化 DeepSeek-V4.1 推理性能，在 H200 单卡吞吐狂飙 2.3 倍，并通过 DSpark 首次在 AMD MI350X/MI355X 实现 1.9 倍吞吐提升；首创 InstantTensor 加载器将大模型冷启动显存载入提速 10 倍；B200 上 Qwen3.8-Flash-Next 解码提速 12%、B300 上 GLM-5.3-Flash 提速 10% 且 MiMo-V2.6-Pro 解码吞吐达 1.85 倍；并原生支持苹果 Apple Silicon 与 ComfyUI 扩散生态。

查看大图

半导体分析机构 SemiAnalysis 发布最新评测：Inferact（vLLM 核心团队）联合 Google 正式提交了首份基于 Google TPUv7 的 Kimi K3 2.8T 巨型 MoE 模型推理基准。在单芯片时租仅 1.21 美元（相比 GB300 2.31 美元、B300 2.26 美元、GB200 1.86 美元）下，借助 TorchTPU vLLM 大核与 TPU-Sync KVCache 卸载库，TPUv7 在 390 tok/s 超高交互区实现每美元 220 万 Token 吞吐，TCO 表现越级反超 NVIDIA GB200 NVL72、B300 与 AMD MI355X。

查看大图

Microsoft AI 于 2026-10-15 发布技术博客与 PDF，宣布完成自研基座 MAI-Base-2 的预训练：每层 MoE（1 个共享 + 512 选 7 路由专家），80B 激活 / 2.8T 总参，102 层，原生无编码器视觉，50T token 训练混合、知识截止 2026 年 3 月。官方口径：在自建/外包的留出集 BPB 上低于所有参测开源模型，预训练 FLOPs 效率为 DeepSeek-V4-Pro-Base 的 4.2–12.3 倍。模型仍在后训练中，暂无 API、权重或发布日期，微软计划经 Foundry 向受信伙伴授权权重。

查看大图

vLLM 团队联合 Inferact、Red Hat 与 NVIDIA 于 10 月 9 日发布 Rubin 早期支持：基于 CUDA 13.4 的每日镜像已可在 Vera Rubin NVL72 上服务 DeepSeek、Kimi、GLM、MiniMax。官方口径下，SemiAnalysis AgentX 上 MiniMax M3 同等交互性单卡吞吐最高为 GB200 的 7.84 倍；MLPerf Inference v6.1 的 VLM 项上 Qwen3-VL-235B-A22B 相对 GB300 NVL72 最高 3.7 倍。

查看大图