vLLM 项目（@vllm_project）发布 v0.30.0（762 提交、315 贡献者）。亮点包括混合注意力热路径：Kimi K3 精简 KDA/AttnRes/MLA，DeepSeek-V4.1-Flash 加入 MXFP8 KV 与异步 Engram，Qwen3.8-Flash-Next 融合 QSA/PLE 并降低 sparse-GQA 开销；另有 HiSparse 主机层、Model Runner V2 的 EAGLE3 管线并行与自适应校验、双密钥 Gumbel-max 水印，以及 Fast Start（CUDA IPC 权重缓存）与 GLM-5.3-Flash、K2-Horizon、Cohere Compass、Bailing V3 VL 等新模型支持。

核心要点速览 (Key Takeaways)

  • ✓混合注意力热路径覆盖 Kimi K3、DeepSeek-V4.1-Flash、Qwen3.8-Flash-Next 等当前编码常用模型。
  • ✓Model Runner V2 把 EAGLE3 式草稿扩展到流水线并行，并在线估计验收率。
  • ✓Fast Start 用 CUDA IPC 缓存量化分片权重，重启加载更快。
⚡
正在评测或选型此类 AI 编程方案？
查看 7 大官方天梯榜综合跑分，或对比 17+ 厂商订阅成本与独家赠金。
🏆 模型跑分榜→💰 算费比价↗
ADSponsored