vLLM-Omni 宣布整合 PhysisServe：物理世界与视频扩散模型推理加速，4.1 毫秒极速输出
vLLM 官方项目组正式宣布将 PhysisServe 的核心推理加速架构整合至 vLLM-Omni 多模态全能推理引擎中。针对物理世界 AI、视频扩散生成与具身大模型在长程去噪阶段面临的高显存占用与高延迟痛点，PhysisServe 创新性提出去噪步与 Transformer 跨块流水线并行（Block Pipelining）、时间分片批处理与虚拟秩联合调度。在 200 张 GPU 集群上对 MiniMax H3 33B 展开实测，实现每 4.1 毫秒输出一个 Chunk（折合千帧/秒渲染），Wan2.2 5B 单卡单请求延迟从 173 毫秒降至 98 毫秒。
核心要点速览
- vLLM 官方宣布将 PhysisServe 核心加速架构合流至 vLLM-Omni，专精于物理世界大模型与视频扩散生成推理
- 首创去噪步与 Transformer 跨块流水线并行（Block Pipelining）与时间分片批处理，彻底消除多卡通信气泡
- 在 200 卡集群上 MiniMax H3 33B 达成每 4.1 毫秒产出单 Chunk（纯 DiT 计算达千帧/秒），Wan2.2 5B 单卡时延降至 98 毫秒
- 24 卡集群并发承载能力暴增 1.7~3.3 倍，代码已全面开源至 GitHub 并即将进入 vLLM-Omni 正式版
关联模型 / 智能体 / 厂商: