微软官宣 Azure Maia 300：96 加速卡机架吞吐最高达 Maia 200 的 7 倍，计划 2027 年多吉瓦部署并成为主推理平台

核心背景与行业痛点

Agent 与长上下文推理把机房瓶颈从「训练算力」推向 解码吞吐、KV 缓存带宽与每兆瓦可用 token。2026-10-12 微软云与 AI 执行副总裁 Scott Guthrie 在 官方博客 宣布：第二代 Azure Maia 200 已进入生产，服务 Microsoft Copilot 等内置 AI，并跑 OpenAI、自研 MAI 与主流开源模型；第三代 Maia 300 按计划在 2027 年投产，并把 Maia 家族扩到 多吉瓦 部署，目标成为微软产品与服务的 主推理系统。对开发者而言，这意味着 Copilot / Foundry / GitHub 侧的服务成本与延迟曲线，将越来越多绑定到自研推理硅片，而不是单一 GPU 机架叙事。

架构亮点与底层机制

1. 整机共设计：Azure 博客强调软件、硅片、机架、网络与数据中心一体，延续 Maia 200 的软件定义本地访问数据流（SDLA），把数据放置、搬运与同步交给软件显式编排。
2. 机架密度：单机架 96 加速卡（24 个四卡托盘）、功耗包络 167 kW；机架级 HBM 容量约 27.6 TB、聚合带宽约 1.7 PB/s。
3. 单卡存储：每加速卡 8 栈 HBM4，约 288 GB 容量、峰值带宽 18.0 TB/s，TDP 约 950 W；片上 SRAM 作软件管理 scratchpad，减负 HBM。
4. 芯粒与精度：计算芯粒走 TSMC N2P，内存控制器与 I/O 分片；支持增强 MXFP4 与更窄存储格式，压缩 KV 与权重占用。
5. Scale-up 网络：自定义以太网 AI 传输，机架内半交换拓扑 + 跨机架光互联，超级舱最高约 12288 加速卡；同一语义覆盖 pod 与超级舱，便于 prefill/decode 解耦与热备托盘迁移。

权威 Benchmark 与实测跑分对比

可引用的数字全部来自微软自家口径，尚无第三方机架级 bake-off：相对 Maia 200，满配 96 卡机架 token 吞吐最高约 7×、性能/瓦特 超过 2.5×；相对「领先 GPU 系统」宣称约 多 40% tokens/兆瓦。Maia 200 侧另有相对领先 GPU 基础设施最高约 1.7× tokens/瓦 的生产声明。Azure 深潜文给出相对 200 代的架构增量：计算 FLOPs +36%、HBM 带宽 2.5×、容量 +33%、HBM 带宽/瓦约 2×、scale-up 带宽 +14%。在独立测评出现前，请把 7×/40% 当作 厂商相对基线，不要写成通用行业排名。

开发者实战落地与开箱指南

• 读两篇官文：先分清 Maia 200（已生产） vs Maia 300（2027 部署），再谈采购窗口。
• 产品侧：关注 GitHub Copilot、Microsoft Foundry、Dragon Copilot 等何时切到 Maia 服务路径；企业客户问的是 SLA/区域，不是能否网购加速卡。
• 异构策略：微软明确仍走开放异构——NVIDIA/AMD 训练与部分推理不会一夜消失；Maia 是「主推理」声明，不是排他禁令。
• Ignite 2026（下月旧金山/线上）将续讲 Frontier Transformation；跟踪技术白皮书与 microsite 更新的可部署区域。