Google Gemma 团队：用 Gemini 4 Argon 为 vLLM 提交 Gemma 4 优化 PR，官方称 gemma-4-E2B-it 在 A100 上提速 2.85 倍

核心背景与行业痛点

开源模型发布后，推理框架的专用内核常要很久才跟上。10 月 26 日 @googlegemma 称，团队用 Gemini 4 Argon 为 vLLM 做了一组 Gemma 4 优化，展示编码模型能做底层性能工程。

架构亮点与底层机制

PR 由 Google DeepMind 的 Luciano Martins 提交：#60674 为 norm/RoPE、PLE、MoE 路由加入融合 Triton 内核；#60689 用稀疏 gather-GEMV 优化 MTP 投机解码；#60445 为 KV 共享层自动开启快速预填充。

权威 Benchmark 与实测跑分对比

Google 称 gemma-4-E2B-it 在单张 A100 上从约 37,900 升到 108,000+ tokens/秒，约 2.85 倍，token 100% 一致，这是整组优化的数字。单看 #60674，E2B 预填充最高 1.90 倍、解码约 1.06 倍，更大模型仅 1.04 到 1.05 倍。均为作者自测，尚无第三方复现。

开发者实战落地与开箱指南

截至 10 月 27 日，链接中 10 个 PR 仅 3 个合并，正式版 vLLM 暂拿不到全部收益。可关注合并进度，或在测试环境拉分支，用自己的负载对比吞吐和输出一致性后再上生产。