阿联酋穆罕默德·本·扎耶德人工智能大学(MBZUAI)基础模型研究院 IFM 11 月 10 日发布开源世界模型 PAN 2。它把「概念推理」和「感知推理」分开:多模态 LLM 先把当前画面和文字动作写成带时间戳的结构化世界状态,再由从零训练的 29B 潜空间扩散模型生成最长 20 秒、704×1248、24fps 的模拟视频,让 Agent 在真正动手前先「预演」每个候选方案。权重和代码以 Apache 2.0 开源,Diffusers 与 vLLM-Omni 首日支持。官方也坦言约三分之二的多步计划模拟里至少有一步没执行到位。

核心要点速览

  • ✓架构:多模态 LLM 做概念推理(写出时间、动作、镜头运动),29B MMDiT 扩散模型做感知推理,文本编码器用 Qwen3.5-9B、解码用 Wan 2.2 VAE(模型卡)
  • ✓输出:单张起始图 + 文字动作,生成最长 20 秒、704×1248 / 24fps 模拟视频;权重与代码 Apache 2.0
  • ✓公开榜(官方口径):Physics-IQ Verified 排行榜设置 49.38,开源模型第一(Cosmos 3 Super 48.62,闭源 FLUX 3 为 51.11);PhyGround 4.74;RBench 57.04
  • ✓多步计划:100 个日常任务的整计划完成率 34.00%,开源模型最高(MiniMax-H3 32.50%);但六项能力总分 84.48 低于 MiniMax-H3 的 87.20
  • ✓安全:配套 pan2-guardrail 把有害文生视频请求产出不安全视频的比例从 33.9% 降到 1.5%,同时误拦 11.5% 的正常请求
MBZUAI 旗下 IFM 开源世界模型 PAN 2:多模态 LLM 规划「谁在何时做什么」,29B 扩散模型生成最长 20 秒模拟视频,Physics-IQ 49.38 居开源第一,Apache 2.0
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

大语言模型预测下一个词,但机器人和 Agent 真正需要的是预测「做了这个动作之后世界会变成什么样」。现有视频生成模型画面好看,却常常不守物理规律、动作顺序乱、镜头一转物体就变了,难以拿来做决策前的预演。MBZUAI 基础模型研究院 IFM 11 月 10 日开源 PAN 2,目标就是做一个可以检查、可以复现的「先模拟再行动」的世界模型。

架构亮点与底层机制

PAN 2 沿用 IFM 提出的生成式潜变量预测(GLP)架构,分两步:多模态 LLM 读入起始画面和文字动作,写出带时间戳的结构化世界状态,包括谁在什么时候做什么、镜头怎么动;29B 参数、从零训练的 MMDiT 扩散模型再据此补全外观和运动细节,由 Wan 2.2 VAE 解码成最长 20 秒的视频。镜头运动单独描述,所以视角变化时场景本身保持一致。

权威 Benchmark 与实测跑分对比

以下为 IFM 技术报告口径:Physics-IQ Verified 排行榜设置(用 Claude Opus 5.5 做概念推理)得分 49.38,开源模型最高,Cosmos 3 Super 为 48.62,闭源 FLUX 3 为 51.11;PhyGround 4.74、RBench 57.04。100 个日常任务的多步计划中,整计划完成率 34.00%,高于 MiniMax-H3 的 32.50%;但六项能力总分 84.48,低于 MiniMax-H3 的 87.20。官方也坦言约三分之二的计划模拟仍有步骤没执行到位。

开发者实战落地与开箱指南

权重在 Hugging Face 的 IFM/PAN2,代码在 GitHub ifm-ai/PAN2,Apache 2.0 可商用;Diffusers 和 vLLM-Omni 首日支持。每个推理进程需加载完整 29B 模型,默认 50 步采样,算力门槛不低。输入最好先用官方的 Conceptual Reasoner 技能(可在 Codex / Claude Code 中使用)改写成结构化描述,官方强烈建议同时部署 pan2-guardrail 安全过滤。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读Reka 发布 Rho-1 研究预览:19B 从零训练的「全能推理」模型,一个网络同时理解与生成文本/图像/视频并输出机器人动作
立即阅读→