10 月 20 日,UCSD Hao AI Lab 的 FastVideo 团队开源 FastH3 Omni,这是 MiniMax H3 参考生成音视频(Ref2VA)模型的蒸馏版,可同时用文本、最多 9 张图、视频片段和人声参考生成带同步立体声的视频。采样从 50 步降到 8 次 transformer 计算,官方在 8 张 GB200 上测得端到端延迟降低 5.6–11.9 倍,训练代码一并开源,并提供面向 DGX Spark、RTX 5090 的 NVFP4 权重和 ComfyUI 支持。

核心要点速览

  • ✓步数:8 次 transformer 计算,基座 MiniMax H3 为 50 步,采用 PDD + DMD 蒸馏
  • ✓速度(官方口径):27 组对照负载、8×GB200,端到端延迟降低 5.6–11.9 倍;例如 15 秒单图请求 139.69 秒降到 14.14 秒
  • ✓输入:最多 9 张图、3 段视频、3 段音频,合计不超过 12 个参考;输出 24 FPS 视频 + 32kHz 立体声
  • ✓本地运行:DGX Spark(128GB)和 RTX 5090(32GB)用 NVFP4 QAD 权重,默认 480p;RTX 4090 可用 FP8 版
  • ✓许可:沿用 MiniMax-H3 Community License,不是 Apache/MIT
Hao AI Lab 开源 FastH3 Omni:把 MiniMax H3 蒸馏到 8 步,多参考音视频生成端到端延迟降低 5.6–11.9 倍
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

带声音的参考视频生成(给几张人像、一段动作、一段人声,让模型合成一条有对白的短片)是视频模型最实用的方向之一,但 MiniMax H3 这类模型默认要跑 50 步扩散,单条 15 秒视频在 8 张 GB200 上也要两分多钟,既难实时,也难在本地显卡上跑。UCSD Hao AI Lab 的 FastVideo 团队与 Nuva Lab、NVIDIA FastGen 团队合作推出 FastH3 Omni,目标就是把速度降到接近实时。

架构亮点与底层机制

FastH3 Omni 用两种蒸馏组合:PDD 让模型一次前向覆盖多个去噪步,DMD 再把输出质量拉回基座水平,最终只需 8 次 transformer 计算、引导系数 1.0。一次请求可混用最多 9 张图、3 段视频和 3 段音频,用 <Picture 1>、<Video 1>、<Audio 1> 指定谁的脸、哪段动作、谁的声音。团队还训练了 4-bit 的 NVFP4 VAE 解码器(36 层质量档、8 层快速档)。

权威 Benchmark 与实测跑分对比

官方口径:在 27 组相同提示、相同参考、1344×768 输出的对照负载上,8×GB200 端到端延迟降低 5.6–11.9 倍,计时到 MP4 写完为止。单图 5 秒请求从 35.44 秒降到 5.67 秒,15 秒请求从 139.69 秒降到 14.14 秒。官方说明示例只是定性对比,不代表与基座输出完全等价;画质的公开量化跑分官方未公布。

开发者实战落地与开箱指南

BF16 权重在 Hugging Face 的 FastVideo/FastVideo-FastH3-Omni-8-Step-V1,服务端部署用 UniServe(GB200/B200、RTX PRO 6000、H100/H200)。本地可在 DGX Spark 或 RTX 5090 上用 FastVideo 加 NVFP4 QAD 权重,默认 480p;没有 FP4 的 RTX 4090 用 FP8 版。ComfyUI 首日支持。注意权重受 MiniMax-H3 社区许可约束,商用前要读条款;官方称本地 AI 专文将于 10 月 21 日发布。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读fal 联合 Black Forest Labs 发布视频模型 FLUX 3 Max:图生视频质量并列第一,10 秒视频约 12 秒生成,比 Seedance 2.5 快约 22 倍
立即阅读→