开源高性能推理引擎 vLLM 发布 0.28.0 大版本。汇聚 270 位开发者的 584 次代码提交，包含 Kimi-K3 全栈融合算子、DeepSeek-V4 稀疏 MLA 端到端支持、自适应投机解码预算（TTFT 提升达 65%）以及 Model Runner V2 分离架构。
核心要点速览
- ✓投机解码成为一等优化利器：集成 DFlash2 与 DSpark 置信度调度，使端到端首 Token 延迟缩短 55%–65%；
- ✓国产顶尖架构首日原生支持：深度适配 Kimi-K3 与 DeepSeek-V4 稀疏多头注意力机制（MLA）；
- ✓硬件后端全面开花：包含 NVIDIA SM12x FlashInfer XQA、AMD ROCm 融合内核及 Intel XPU 适配。
⚡
一眼结论开发者 3 秒速决决策指标
🧭
本地显存不够？先比较云端 API 与自部署的实际成本
40 款主流编程套餐横向比价，支持输入/输出 Token 真实账单模拟
实战指南准备好将技术转化为生产力？
即刻查看该技术对应模型与主流工具的实测差异，或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
接着读MiniMax 正式发布 M3.1 Flash 并于 10 月 23 日开放权重：428B 总参 / 23B 激活，每百万 token 输入 $0.15、输出 $0.60，DeepSWE 73.7%
立即阅读→
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察