AI 编程实时动态与要闻

MBZUAI 旗下 IFM 开源世界模型 PAN 2:多模态 LLM 规划「谁在何时做什么」,29B 扩散模型生成最长 20 秒模拟视频,Physics-IQ 49.38 居开源第一,Apache 2.0

阿联酋穆罕默德·本·扎耶德人工智能大学(MBZUAI)基础模型研究院 IFM 11 月 10 日发布开源世界模型 PAN 2。它把「概念推理」和「感知推理」分开:多模态 LLM 先把当前画面和文字动作写成带时间戳的结构化世界状态,再由从零训练的 29B 潜空间扩散模型生成最长 20 秒、704×1248、24fps 的模拟视频,让 Agent 在真正动手前先「预演」每个候选方案。权重和代码以 Apache 2.0 开源,Diffusers 与 vLLM-Omni 首日支持。官方也坦言约三分之二的多步计划模拟里至少有一步没执行到位。

MBZUAI 旗下 IFM 开源世界模型 PAN 2:多模态 LLM 规划「谁在何时做什么」,29B 扩散模型生成最长 20 秒模拟视频,Physics-IQ 49.38 居开源第一,Apache 2.0

核心要点速览

  • 架构:多模态 LLM 做概念推理(写出时间、动作、镜头运动),29B MMDiT 扩散模型做感知推理,文本编码器用 Qwen3.5-9B、解码用 Wan 2.2 VAE(模型卡)
  • 输出:单张起始图 + 文字动作,生成最长 20 秒、704×1248 / 24fps 模拟视频;权重与代码 Apache 2.0
  • 公开榜(官方口径):Physics-IQ Verified 排行榜设置 49.38,开源模型第一(Cosmos 3 Super 48.62,闭源 FLUX 3 为 51.11);PhyGround 4.74;RBench 57.04
  • 多步计划:100 个日常任务的整计划完成率 34.00%,开源模型最高(MiniMax-H3 32.50%);但六项能力总分 84.48 低于 MiniMax-H3 的 87.20
  • 安全:配套 pan2-guardrail 把有害文生视频请求产出不安全视频的比例从 33.9% 降到 1.5%,同时误拦 11.5% 的正常请求
阅读全文
关联模型 / 智能体 / 厂商:

马里兰大学与 Google 提出 BeliefWeaver:隐式世界模型驱动长程 Agent 故障修复,9B 学生模型开销骤降 54.8%

马里兰大学与 Google、MBZUAI 研究人员在 arXiv:2610.18082 中提出长程智能体故障自愈框架 BeliefWeaver。针对自主 Agent 在复杂任务中因数步之前的隐蔽错误导致后期崩溃、传统局部反思或简易回滚无法定位根因的痛点,该框架维护跨尝试周期的关系型全局信念状态(Relational Belief State),引入隐式世界模型(IWM)预测修复收益并门控执行。经在策略蒸馏(OPD)微调后,9B 轻量学生模型在终端基准上超越基线 9.8 个百分点,且 API 成本大幅缩减 54.8%。

马里兰大学与 Google 提出 BeliefWeaver:隐式世界模型驱动长程 Agent 故障修复,9B 学生模型开销骤降 54.8%

核心要点速览

  • 马里兰大学、Google 与 MBZUAI 联合发布长程智能体自愈框架 BeliefWeaver(arXiv:2610.18082),攻克多步隐藏根因定位难题
  • 维护跨尝试周期的关系型全局信念状态图,引入隐式世界模型(IWM)前瞻推演修复假说并实施证据门控执行
  • 在三大终端基准测试中得分提升 5.1 个百分点,经在策略蒸馏的 9B 学生模型跑分反超基线 9.8 个百分点
  • 将庞大 Teacher 模型的单任务推理 API 成本大幅降低 54.8%,为工业级自主 DevOps 与智能体自愈提供高性价比解法
阅读全文
关联模型 / 智能体 / 厂商:

MBZUAI IFM × Inception42 发布 Jais 3:六档开源阿拉伯语智能体模型(0.9B–375B)+ Jais Speech,512K 上下文落地 Hugging Face

阿联酋 MBZUAI 旗下 Institute of Foundation Models(IFM)与 Inception42 于 2026-10-15 正式发布 Jais 3:在开源底座 K2 Horizon 上做的首个语言适配,提供六档开源权重(0.9B 稠密至 375B-A23B 稀疏 MoE,每 token 激活约 23B)与阿拉伯语 ASR 模型 Jais Speech。全系列共享训练配方与智能体能力,上下文最长 512K(0.9B 为 128K),Apache-2.0,权重与分阶段 checkpoint 已上 Hugging Face,vLLM 宣布 Day-0 支持。

MBZUAI IFM × Inception42 发布 Jais 3:六档开源阿拉伯语智能体模型(0.9B–375B)+ Jais Speech,512K 上下文落地 Hugging Face

核心要点速览

  • 规模:六档 0.9B / 3.7B / 7B / 32B 稠密 + 36B-A4B(MoE+MoVA,约 4B 激活)+ 375B-A23B(约 23B 激活);旗舰需约 8×H200 BF16 节点(模型卡)
  • 官方自测阿拉伯语均分:375B 开源对照最高 84.0(Qwen3.5-397B 82.0);7B 79.4,相对同尺寸 K2 Horizon 基座 56.4→79.6(技术博客)
  • 智能体:3.7B/7B 在同尺寸对照中领先约 20 分;375B agentic average 60.2,SWE-Bench Verified 70.2、Terminal-Bench 2.1 73.8(官方同 harness 复测)
  • 语音:Jais Speech 在六套公开 ASR 测试宏平均 WER/CER 22.85/8.37,低于 Audar、Cohere Transcribe Arabic、omniASR 等对照(Jais 页)
  • 开箱:Apache-2.0;HF 集合 IFM/jais-3;vLLM≥0.30 / SGLang≥0.5.20 参考配方;推理 parser k2_horizon;配对 github.com/ifm-ai/JaisVoice
阅读全文
关联模型 / 智能体 / 厂商:

告别开环盲目演化!MBZUAI 等发布 WorldGuide:目标导向闭环视频世界模型,长程程序化任务跑分大涨

以 Sora、Gen-3 与 MiniMax 为代表的视频生成大模型虽然能够渲染出逼真流畅的视觉运动,但在面对包含明确目标与先后次序的‘长程程序化任务(Procedural Tasks)’时(如复杂的烹饪烘焙、机械拆装维修、精细外科手术),现有模型普遍采用‘开环单向生成(Open-Loop Generation)’,导致致命缺陷:模型根本无法感知当前生成的画面到底执行到了哪一步,频繁出现步骤颠倒、无中生有、提前终止或无限死循环。阿联酋起源人工智能研究院(MBZUAI)与澳大利亚国立大学(ANU)研究团队在最新研究(arXiv:2610.12459)中推出了 WorldGuide 框架(项目主页:mbzuai-oryx.github.io/WorldGuide/,开源仓库:github.com/mbzuai-oryx/WorldGuide)。WorldGuide 首次将程序化视频生成形式化为‘视觉世界空间中的闭环任务执行(Closed-Loop Task Execution in Visual World Space)’。系统仅需一张初始静态图与一个高层目标指令,其内部耦合的规划器(Planner)与视频执行器(Executor)便能协同运转:规划器预测下一步原子动作,执行器生成对应动作的连续视频片段,随后规划器基于实际生成的视觉进展动态决策下一步骤或判定任务完成。针对缺乏单步对齐数据的痛点,团队构建了包含 5.9 万个分步标注视频的全新评测套件 WorldGuide-Bench。在任务完成率上,WorldGuide 达到了 33.33%,在无需参考计划的前提下显著击败了强基线 MiniMax-H3(29.90%),在 VideoCraft-Bench 上更是以 47.69% 遥遥领先于 MiniMax-H3(32.73%),官方代码已开源。

核心要点速览

  • MBZUAI 等发布 WorldGuide,首创规划器与执行器紧密耦合的目标导向闭环视频世界模型
  • 在无参考计划盲测下,WorldGuide-Bench 任务成功率达 33.33% 击败 MiniMax-H3,VideoCraft-Bench 暴涨至 47.69%
  • 开源包含 5.9 万个分步标注视频的基准套件与代码,将长程程序化任务逻辑倒错率从 62% 压缩至 4% 以下
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

多模态推理重大突破!CMU 联合发布 WM-VLM:内置世界模型脑补中间视觉画面,空间推理暴涨 39.25%

人类在面对复杂空间旋转、机械装配与物理拓扑推演时,往往会在大脑中主动进行“视觉想象推演(Mental Simulation)”,通过在脑海中逐步生成未来的中间视觉画面来辅助思考;然而现有的多模态大模型(VLM)在处理多步骤空间任务时,却几乎全盘退化为“纯语言 Token 思考链(Text-only CoT)”,导致其在面对 2D/3D 空间立体变换时极易产生方向颠倒与几何幻觉。卡内基梅隆大学(CMU)与 MBZUAI(Eric Xing 团队)联合提出了突破性的 WM-VLM 架构(arXiv:2609.34826):为预训练多模态大模型赋予了一个轻量级的内置“世界模型分支(Internal World Model Branch)”,赋予模型在语言推演的同时自主生成中间视觉状态(Intermediate Visual States)的能力,实现真正的图文交错混合推理(Interleaved Visual-Textual Reasoning)。两阶段训练首先教会模型如何根据物理变换指令生成下一步的精确视觉状态,继而训练模型如何观察并借助该生成状态展开后续空间逻辑决策。在 2D 与 3D 心理旋转(Mental Rotation)等严苛空间基准测试中,WM-VLM 相比监督微调基线取得了高达 39.25 个百分点的巨大精度跃升;消融实验确凿证实,一旦人为剔除或污染生成的中间视觉画面,模型性能即刻雪崩,证明了具身心智模拟是攻克高级空间几何推理的根本路径。

多模态推理重大突破!CMU 联合发布 WM-VLM:内置世界模型脑补中间视觉画面,空间推理暴涨 39.25%

核心要点速览

  • CMU 与 MBZUAI 提出首个内置世界模型的多模态架构 WM-VLM,实现图文交错的心智视觉推演(Mental Simulation)
  • 两阶段训练范式结合轻量级生成分支,先脑补关键中间视觉画面,再依托画面展开严密空间逻辑推导
  • 在 2D/3D 空间心智旋转基准上较传统 SFT 精度暴涨 39.25 个百分点,消融证实性能完全由中间视觉画面因果支撑
阅读全文

填补网安落地空白!MBZUAI 等开源 KaliBench:8,504 对严苛终端命令基准,8B 模型比肩 685B 巨兽

随着大模型加速渗透进网络安全工作流,安全专家期望智能体能够将自然语言攻防意图直接转化为精确的底层终端命令。然而现有评估往往局限于高阶选择题或模糊的端到端 Agent 任务,无法精确度量模型为真实网安工具生成可执行命令行(CLI)的能力。网络安全操作对语法极其严苛,微小的参数误绑定、参数顺序颠倒或漏配标志位即可导致渗透执行失败。来自 MBZUAI 等机构的研究学者推出了面向 Kali Linux 的细粒度自然语言到命令行转换基准 KaliBench,涵盖 23 个安全能力维度、5 大攻防阶段共 1,642 款真实安全工具的 8,504 组查询-命令对。评测发现开源模型在无提示约束下准确率普遍不足 42%;而结合 KaliBench 提供的无运行时可验证奖励进行强化微调后,8B 模型综合表现直接追平 685B 超大参数 MoE 旗舰。

填补网安落地空白!MBZUAI 等开源 KaliBench:8,504 对严苛终端命令基准,8B 模型比肩 685B 巨兽

核心要点速览

  • 全球首个涵盖 1,642 款 Kali Linux 网安工具的确定性命令行基准与 8,504 对实战命令集
  • 揭露开源模型在无工具提示盲测下命令准确率普遍不足 42% 的严峻语法幻觉短板
  • 提出无运行时依赖的可验证奖励机制,训练驱动 8B 小模型综合表现直接追平 685B MoE 巨型模型
阅读全文
关联模型 / 智能体 / 厂商:

全模态检索降维打击!MBZUAI 开源 Omni-Embed-Mini:0.9B 参数打通六大多模态,纯冻结文本权重零遗忘

将文本表征模型扩展至语音、音频、图像、视频及图文混排文档等多模态领域时,传统方案往往导致严重的文本检索灾难性遗忘,而现有全模态向量模型通常需要数十亿甚至上百亿参数来勉强维持平衡。穆罕默德·本·扎耶德人工智能大学(MBZUAI)等团队推出了轻量化全模态嵌入模型 Omni-Embed-Mini。该模型仅拥有 0.9B 极小参数量,通过密集的级联描述蒸馏(Dense Cascaded Caption Distillation),将文本、语音、音频、图像、视频与文档六大模态映射进统一的余弦空间。核心突破在于文本侧权重保持 100% 静态冻结(Byte-Identical),从理论与工程上彻底杜绝了文本检索退化(MTEB-v2 BEIR-8 达 49.57 nDCG@10);而其 2.3B 升级变体在全模态平均检索得分上更是逆袭超越了闭源商业标杆 Gemini-Embedding-2。

全模态检索降维打击!MBZUAI 开源 Omni-Embed-Mini:0.9B 参数打通六大多模态,纯冻结文本权重零遗忘

核心要点速览

  • 仅凭 0.9B 极小体积打通文本、语音、音频、图像、视频与图文文档 6 大模态的统一向量对齐
  • 文本侧参数比特级完全冻结,从数学根源杜绝文本灾难性遗忘(MTEB-v2 BEIR-8 达 49.57 nDCG@10)
  • 2.3B 升级版本在多模态综合检索平均表现上全面逆袭超越 Google 闭源商业模型 Gemini-Embedding-2
阅读全文
关联模型 / 智能体 / 厂商:

Artificial Analysis:MBZUAI 开源 K2 Horizon 375B A23B,智能指数 47、智能体表现突出

Artificial Analysis 评测阿联酋 MBZUAI 新开源 MoE 模型 K2 Horizon 375B A23B(375B 总参、23B 激活、512K 上下文):Intelligence Index 得 47,较前代 K2 Think V2(17 分、70B dense)大幅跃升。智能体与知识工作(GDPval-AA、τ³-Banking)领先相近的 MiniMax-M3,但 GPQA Diamond 与 HLE 等硬推理仍落后;幻觉率约 26%,主要靠高弃答而非更强知识。

核心要点速览

  • Intelligence Index 47:相对 K2 Think V2(17)约 +30,架构从 70B dense 升级为 375B/23B MoE、上下文 512K。
  • 智能体侧:GDPval-AA Elo 1430 vs MiniMax-M3 1380;τ³-Banking 34.2% vs 15.3%。
  • 知识/推理仍弱:GPQA 87.3% vs M3 92.9%,HLE 32.0% vs 39.0%;AA-Omniscience 仅作答约 40%。定价与许可证细节待公布。
阅读全文
关联模型 / 智能体 / 厂商: