Inception 正式发布 Mercury 3：扩散架构大模型突破 1000 Token/s，100 万上下文挑战 GPT-6 与 Haiku

核心背景与行业痛点

当前主流大语言模型几乎全盘采用自回归（Autoregressive, AR）单 Token 逐字预测机制。尽管工程团队通过投机解码（Speculative Decoding）或多 Token 预测（MTP）优化生成流水线，但在长文本推理、代码重构和复杂 Agent 多轮调用的场景中，自回归固有的串行解码物理瓶颈使得推理吞吐普遍徘徊在几十到一两百 Token/秒之间。针对这一根本性瓶颈，斯坦福教授、Inception 联合创始人 Stefano Ermon 带领团队推出了新一代基于非自回归扩散（Diffusion-based LLM）架构的里程碑模型 Mercury 3。

架构亮点与底层机制

1. 并行扩散解码与 1,000+ TPS 极速吞吐：

• 彻底摆脱自回归串行逐字预测，采用全局迭代去噪（Iterative Denoising）并行生成整段文本，在常规 NVIDIA GPU 实例上实现了 1,068 Token/秒 的端到端推理吞吐，较传统主流大模型提速近 5~10 倍；

1. 40 倍模型容量跃迁与 1M 原生超长上下文：

• 模型规模扩充至前代 Mercury 1 的 40 倍，标准上下文窗口一举拓展至 100 万（1M）Token（达到 Mercury 2.5 的 4 倍）；
• 在维持超快解码的同时具备稳定的长程注意力保持能力，能够单次处理超长代码库或百万字技术文档；

1. 极具竞争力的 Token 经济学：

• 官方标准 API 定价仅为 $0.20 / 1M 输入 Token 与 $0.70 / 1M 输出 Token；
• 早期尝鲜阶段提供 5 折限时优惠（$0.10 / $0.35），且上下文缓存命中（Cache Read）享受高达 90% 的折扣，已同步登录 OpenRouter 平台。

权威 Benchmark 与实测跑分对比

根据 Inception 官方技术报告与 OpenRouter 实测验证（Figure 1, Benchmark Disclosures）：

• 全场景能力基准评测：
• 在复杂指令遵循（IFBench）、高难度多学科推理（GPQA Diamond）与全自动软件工程测试（SWE-Bench Atlas）中，Mercury 3 展现出较 Mercury 1 提升 3 倍的基准综合智能；
• 官方对比数据显示，在生成质量与严谨度上已全面逼近 GPT-6 Luna 与 Claude Haiku 5.5 等前沿轻量旗舰，但推理速度维持在 1,000+ TPS；
• 并发与吞吐表现：
• 在高并发压力测试下，Mercury 3 展现出远低于自回归模型的首字等待延迟（TTFT）与极平滑的流式响应曲线，尤其适合代码补全实时渲染、实时语音交互智能体等毫秒级响应场景。

开发者实战落地与开箱指南

• API 接入与平台：开发者目前可通过 Inception 官方开发者门户（inceptionlabs.ai）或 OpenRouter 进行调用；
• Agent 架构选型建议：对于频繁需要生成长格式代码、多分支单元测试或大规模数据合成的智能体系统，Mercury 3 的千字秒级解码能力能够将数分钟的 Agent 运行流水线压缩至数秒以内，大幅提升人机交互体验并显著削减云计算租用时长。