SGLang v0.5.22 重磅发布：DeepSeek-V4.1 在 H200 吞吐提升 2.3 倍、MI355X 提速 1.9 倍，InstantTensor 载入提速 10 倍
SGLang 团队正式发布 v0.5.22 大版本更新（凝聚 245 位贡献者提交的 950 个 PR）：深度优化 DeepSeek-V4.1 推理性能，在 H200 单卡吞吐狂飙 2.3 倍，并通过 DSpark 首次在 AMD MI350X/MI355X 实现 1.9 倍吞吐提升；首创 InstantTensor 加载器将大模型冷启动显存载入提速 10 倍；B200 上 Qwen3.8-Flash-Next 解码提速 12%、B300 上 GLM-5.3-Flash 提速 10% 且 MiMo-V2.6-Pro 解码吞吐达 1.85 倍；并原生支持苹果 Apple Silicon 与 ComfyUI 扩散生态。
核心要点速览
- SGLang v0.5.22 正式发布，汇聚 245 位贡献者的 950 个 PR
- DeepSeek-V4.1 在 NVIDIA H200 单卡吞吐暴涨 2.3 倍，并通过 DSpark 首次在 AMD MI350X/MI355X 实现 1.9 倍吞吐提升
- 全新 InstantTensor 加载器将千亿模型冷启动载入速度提升 10 倍（10x faster）
- B200 上 Qwen3.8-Flash-Next 解码提速 12%，B300 上 GLM-5.3 提速 10% 且 MiMo-V2.6-Pro 解码达 1.85 倍
- PD 分离架构使长 Prompt 首字延迟 p95 TTFT 减半（-50%），吞吐净增 27%，原生支持 Apple Silicon 与 ComfyUI
关联模型 / 智能体 / 厂商:
