AI 编程实时动态与要闻

UCSD 开源 3D 具身探索智能体 ACT3D:纯单目第一人称交互学习,超越 Gemini 3.6 Flash

加利福尼亚大学圣迭戈分校(UCSD)研究团队在 arXiv:2610.21783 中推出 3D 空间主动探索与推理智能体 ACT3D。针对传统 3D 具身模型依赖昂贵稠密多视角图像、多模态视频流或重型点云编码的痛点,该研究完整保留单目视觉语言模型(VLM)的原生单帧第一人称编码,将 3D 环境作为动作与交互观测场。经结果驱动强化学习(RL)优化后,在六大 3D 评测基准上取得 53.2% 的平均准确率(较基座 Qwen 跃升 22.0%),一举超越商业旗舰 Gemini 3.6 Flash,且输入帧数节省 50%~70%。

UCSD 开源 3D 具身探索智能体 ACT3D:纯单目第一人称交互学习,超越 Gemini 3.6 Flash

核心要点速览

  • UCSD 联合佐治亚理工发布 3D 主动交互智能体 ACT3D(arXiv:2610.21783),纯单目第一人称图像输入打破传统多视角堆砌
  • 以结果驱动强化学习(RL)优化视角探索,在无路径先验监督下自主习得问题条件化寻路与遮挡消除策略
  • 在六大 3D 基准上取得 53.2% 平均准确率,较基座模型提升 22.0%,超越商业旗舰 Gemini 3.6 Flash 且输入帧数节省 50%~70%
  • 在严重遮挡的复杂 3D 推理任务中增益高达 16.3%,未见场景泛化提升 5.9%,为低成本具身导航提供高效算法架构
阅读全文
关联模型 / 智能体 / 厂商:

具身 VLA 感知-动作解耦突破:PINT 共享预测意图令牌在 RoboTwin 2.0-Hard 飙升至 15.5%,PAIR 零推理开销提升真机成功率 13.6 个百分点

针对视觉-语言-动作(VLA)模型中高层语义特征、世界模型视频预测与底层高频动作控制相互割裂的难题,中关村学院与清华团队提出共享预测意图模型 PINT(arXiv:2610.16355),在无需具身预训练下将 RoboTwin 2.0-Hard 成功率从 StarVLA 的 3.2% 提升至 15.5%(4.8倍);同日发表的 PAIR(arXiv:2610.09016)与北大 SimForcing(arXiv:2610.06598)分别通过训练期掩码动作自编码器桥接令牌与仿真运动先验蒸馏,实现零额外推理延迟下的真机操控跃升。

具身 VLA 感知-动作解耦突破:PINT 共享预测意图令牌在 RoboTwin 2.0-Hard 飙升至 15.5%,PAIR 零推理开销提升真机成功率 13.6 个百分点

核心要点速览

  • PINT(arXiv:2610.16355)引入共享块级预测意图令牌协同 VLM、视频生成世界模型与动作专家,无需具身预训练即可在 RoboTwin 2.0-Hard 取得 15.5% 成功率(为 StarVLA 3.2% 的 4.8 倍、Fast-WAM 1.8% 的 8.6 倍)
  • 在 LIBERO-Plus 鲁棒性评测中 PINT 达到 79.5% 平均成功率,并在 5 项真机双臂任务上实现 68% ID / 24% OOD 成功率,大幅超越预训练模型 Motus(35% / 9%)
  • PAIR(arXiv:2610.09016)通过训练期掩码动作自编码器与 Bridge Tokens 弥合感知-动作鸿沟,推理期零额外开销,将 OpenVLA-OFT 在 7 项真机任务上的成功率从 51.4% 提升至 65.0%(+13.6 pts)
  • 北大 SimForcing(arXiv:2610.06598)将仿真器运动先验蒸馏至真实域机器人世界模型,在 Bridge 与 InternData-A1 上刷新 FVD/PSNR 并直接提升下游 LIBERO 策略表现
阅读全文
关联模型 / 智能体 / 厂商:

拆穿大模型评测三大盲区:41 个模型实证选择题偏置精确分解定理,6100 万次编辑锻造 semCER 语义 OCR 指标,SAE 特征复现随数据暴涨 14.5 倍

针对大模型多项选择题选项顺序敏感、OCR 字符错误率(CER)对严重语义错误与轻微拼写一视同仁,以及稀疏自编码器(SAE)训练数据规模缺乏可复现性验证三大评测痛点,今日三项扎实研究给出量化标准:POSTECH/KAIST 团队(arXiv:2610.20993)在 41 个模型与 12 个基准上证明选项偏置标准差精确等于“翻转率 × 位置偏斜度”,揭露正反顺序聚合会通过“锁定同一错误选项”虚假降低翻转率;semCER(arXiv:2610.20461)开源跨 16 种语言的 6,100 万次字符编辑严重度标注与蒸馏打分器;IISc/UVA(arXiv:2610.20680)对比 5M 至 500M Token 训练预算,发现 Gemma-2-2B BatchTopK 的严格特征复现率从 5M 的 2% 暴涨 14.5 倍至 50M 的 29%。

拆穿大模型评测三大盲区:41 个模型实证选择题偏置精确分解定理,6100 万次编辑锻造 semCER 语义 OCR 指标,SAE 特征复现随数据暴涨 14.5 倍

核心要点速览

  • POSTECH/KAIST 证明位置均衡下选择题偏置标准差精确等于“翻转率 × 位置偏斜度”,并在 41 个模型与 12 个基准上揭示正反顺序聚合会通过“锁定同一错误选项”虚假降低翻转率
  • semCER 开源横跨中英等 16 种语言的 6,100 万次字符编辑严重度数据集与蒸馏评分器,并发现通用 VLM 的错字拼成真实合法词汇的概率远高于传统 OCR
  • IISc/UVA 横跨 5M~500M Token 实测 4 种 SAE 架构,证明重构收敛不等于特征稳定:Gemma-2-2B BatchTopK 的严格特征复现率从 5M 的 2% 暴涨 14.5 倍至 50M 的 29%
阅读全文
关联模型 / 智能体 / 厂商:

零训练注意力提速 4.36 倍!新加坡国大 Velox 视锥空间记忆加速视频世界模型,南开 DeltaStreamer 与理大 CoWorld 刷新流式推理

围绕交互式视频世界模型(Video World Models)与流式视觉智能体的“历史 KV 缓存膨胀、记忆衰退与工具调用僵化”三大难题,今日四项重磅成果集体亮相:新加坡国立大学王鑫超团队推出免训练 3D 视锥切片注意力路由器 Velox(arXiv:2610.22311),在 H200 上将第 48 块长序列注意力加速 4.36 倍、去噪整体加速 2.43 倍;南开大学侯淇彬团队开源流式视频智能体 DeltaStreamer(arXiv:2610.19849,HF 39 赞),通过变化感知记忆与定向回放斩获 OVO-Bench 66.07%;香港理工大学开源 CoWorld Reasoner(arXiv:2610.21910),通过自演化 VLM-VWM Harness 在 ERQA 上相对提分 13.0%;浙大则推出包含 260 个多回访用例的世界记忆基准 WorldMemBench(arXiv:2610.19063)。

零训练注意力提速 4.36 倍!新加坡国大 Velox 视锥空间记忆加速视频世界模型,南开 DeltaStreamer 与理大 CoWorld 刷新流式推理

核心要点速览

  • 新加坡国立大学提出免训练 3D 视锥切片注意力路由器 Velox:在 H200 上将第 48 块长序列注意力加速 4.36 倍、扩散去噪加速 2.43 倍,WBench 158 例导航得分与全注意力仅差 0.15 分
  • 南开大学开源流式视频智能体 DeltaStreamer:结合变化感知结构化记忆与按需历史原帧回放,在 OVO-Bench 与 StreamingBench 上分别斩获 66.07% 与 59.53%
  • 香港理工大学开源 CoWorld Reasoner 自演化 VLM-VWM Harness,在 MMSI 与 ERQA 上分别取得 11.8% 与 13.0% 相对准确率跃升;浙大同步开源 260 例世界记忆基准 WorldMemBench
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

零外部裁判登顶 WebArena Infinity 74.6%!Salesforce 开源 CLIFT 保形自验证,SCOPED-8B 跨能力蒸馏反超 32B 模型

针对网页与多模态智能体在强化学习中奖励稀疏、外部大模型裁判昂贵以及多能力梯度冲突的痛点,今日三项重磅研究实现突破:Salesforce AI Research 推出 CLIFT(arXiv:2610.06829),将保形认证的 URL 状态自验证问题库同时用于训练稠密奖励与测试期零裁判轨迹优选(CTS),使 Gemma-4 31B 在 WebArena Infinity 9 大应用上斩获 74.6% 登顶(超越 Gemini 3 Flash 的 70.1%),迁移至 GPT-5.5 刷新 VisualWebArena 53.7% SOTA;MMSearch-OPD(arXiv:2610.22240)将 9B 多模态深度搜索准确率提至 60.2%(+15.3 分);东北大学 SCOPED-8B(arXiv:2610.22217)通过技能解耦在线专家蒸馏斩获 73.13% 均分,越级击败 4 倍体积的 Qwen3-VL-32B(72.01%)与 Claude Opus 4.6(72.86%)。

零外部裁判登顶 WebArena Infinity 74.6%!Salesforce 开源 CLIFT 保形自验证,SCOPED-8B 跨能力蒸馏反超 32B 模型

核心要点速览

  • Salesforce 提出 CLIFT 保形自验证框架:使开源 Gemma-4 31B 在 WebArena Infinity 9 大应用上斩获 74.6% 最高成功率(较基座 +12.8 分,击败 Gemini 3 Flash 的 70.1%),且测试期轨迹优选(CTS)无需调用任何外部裁判
  • 将开源模型学到的 CLIFT 验证问题库零训练迁移至闭源 GPT-5.5,在 VisualWebArena 上以 53.7% 刷新最高纪录;MMSearch-OPD 则将 9B 多模态深度搜索 7 项基准均分拉升 15.3 分至 60.2%
  • 东北大学开源 SCOPED 技能解耦在线专家蒸馏框架:SCOPED-8B 在 8 大多模态基准上斩获 73.13% 均分,越级击败 4 倍体积的 Qwen3-VL-32B(72.01%)与 Claude-Opus-4.6(72.86%)
阅读全文
关联模型 / 智能体 / 厂商:

人类 100% 满分而 GPT-5.6-Sol 仅 17%!厦大 RoTA-Bench 揭露 3D 交互空间盲区,OpenSAE 二阶特征引导令控制保真度跃升至 0.779

今日 Hugging Face 每日论文热榜前二的两项高赞研究(RoTA-Bench 200 赞、OpenSAE 104 赞)深入剖析了大模型内部表征与三维交互推理的边界:厦门大学纪荣嵘团队开源 RoTA-Bench(arXiv:2610.17665),通过 674 个可逆 3D-2D 剪影旋转对齐任务测试多步视觉反馈控制,发现人类本科生达成 100% 成功率而旗舰 GPT-5.6-Sol 仅得 17%;威斯康星大学麦迪逊分校开源 OpenSAE 行为可组合性框架(arXiv:2610.21261),提出 SAE 可加性残差(SAR),证明引入二阶成对特征交互可将多特征联合干预的排序保真度从 0.5874 大幅提升至 0.7790,误差降低逾 58%。

人类 100% 满分而 GPT-5.6-Sol 仅 17%!厦大 RoTA-Bench 揭露 3D 交互空间盲区,OpenSAE 二阶特征引导令控制保真度跃升至 0.779

核心要点速览

  • 厦大纪荣嵘团队开源 RoTA-Bench(674 个可逆 3D-2D 投影旋转对齐任务):人类受试者达成 100% 通关率,而 GPT-5.6-Sol 成功率仅 17%,且在 19.4% 状态下陷入“2D 重叠提升但 3D 姿态恶化”陷阱
  • 移除交互历史会导致模型 96.8% 的旋转动作退化为粗糙的 30 度步长,证明历史视觉反馈对精细三维空间控制至关重要
  • UW-Madison 提出 SAE 可加性残差(SAR),在全部 18 组实验中证实引入二阶成对特征交互可将多特征联合干预排序保真度从 0.5874 提升至 0.7790,排序误差从 0.1444 降至 0.0606
阅读全文
关联模型 / 智能体 / 厂商:

零生成 Token 提速 5.6 倍!MJev-Spatial 原生注意力匹配登顶 HuggingFace 热榜,港中大 CarryOn 双环具身框架将违规率砍至 6.1%

针对视觉语言模型(VLM)在空间感知中依赖自回归文本生成导致的高延迟,以及具身 VLA 模型缺乏个性化与物理安全兜底的难题,今日两项重磅开源成果给出解法:MJev-Spatial(arXiv:2610.22276,HF 350 赞登顶)复用骨干 Q/K 投影将空间判断转化为单次前向分类,零新增参数提速 5.6 倍并在 12 项基准斩获 65.64% 第一;港中大贾佳亚团队 CarryOn(arXiv:2610.21453)以规划-执行双环 Harness 将机器人安全违规率从 52.6% 降至 6.1%,故障恢复成功率从 13% 飙至 80%。

零生成 Token 提速 5.6 倍!MJev-Spatial 原生注意力匹配登顶 HuggingFace 热榜,港中大 CarryOn 双环具身框架将违规率砍至 6.1%

核心要点速览

  • MJev-Spatial 复用 VLM 原生 Q/K 投影将三类空间感知任务统一为单次前向分类,生成 0 个 Token,推理较 Qwen3.5-4B 基座提速 5.6 倍,12 项空间基准均分达 65.64%
  • 联合粗到细 Teacher Forcing 监督与长度感知全局批处理,使 MJev-Spatial 在 1,230 万空间问答对上的训练吞吐提升 30.8%
  • 港中大贾佳亚团队 CarryOn 双环具身 Harness 将安全微调后 VLA 的违规率从 52.6% 压降至 6.1%,物理失败自主恢复成功率从 13% 提升至 80%
阅读全文
关联模型 / 智能体 / 厂商:

vLLM 正式支持 NVIDIA Vera Rubin NVL72:AgentX 上 MiniMax M3 单卡吞吐达 GB200 的 7.84 倍

vLLM 团队联合 Inferact、Red Hat 与 NVIDIA 于 10 月 9 日发布 Rubin 早期支持:基于 CUDA 13.4 的每日镜像已可在 Vera Rubin NVL72 上服务 DeepSeek、Kimi、GLM、MiniMax。官方口径下,SemiAnalysis AgentX 上 MiniMax M3 同等交互性单卡吞吐最高为 GB200 的 7.84 倍;MLPerf Inference v6.1 的 VLM 项上 Qwen3-VL-235B-A22B 相对 GB300 NVL72 最高 3.7 倍。

vLLM 正式支持 NVIDIA Vera Rubin NVL72:AgentX 上 MiniMax M3 单卡吞吐达 GB200 的 7.84 倍

核心要点速览

  • 硬件对比 GB200 NVL72:NVFP4 算力 5 倍、HBM4 带宽约 2.4 倍、NVLink 双向带宽 1.7 倍,softmax 指数运算快 2–4 倍(vLLM 博文)
  • AgentX + MiniMax M3:同等交互性单卡吞吐最高 7.84 倍,150 TPS 约束下 5.18 倍(官方口径,早期结果)
  • MLPerf Inference v6.1:Qwen3-VL-235B-A22B 经 vLLM + Dynamo,相对 GB300 NVL72 最高 3.7 倍
  • CUDA 13.4 locality domain 拆分 MoE 权重,小 token decode 场景 MoE 层平均提速约 1.2 倍
  • 开箱镜像:vllm/vllm-openai:cu134-nightly(CUDA 13.4 + PyTorch 2.15)
阅读全文

让静止三维世界无限灵动!OuroWorld 发布:免掩码 4DGS 实现任意视角无缝循环 3D 动态画

随着 3D 高斯泼溅(3D Gaussian Splatting, 3DGS)的成熟,从多视角照片重构具有逼真照片级质感的静态虚拟三维场景已变得极为成熟。然而,当前所有的 3D 资产与探索场景在时间维度上依然被‘永久冻结’;现有动态化方案要么仅能模拟简单的流体扩散,要么生成有头有尾的短视频,无法在任意漫游视角下实现自然、无缝循环的视觉运动(3D Cinemagraphs)。来自中国台湾阳明交通大学与研究团队在最新重磅研究(arXiv:2610.12461)中推出了 OuroWorld(项目主页:ouroworld.userwei.com)。OuroWorld 是首个免掩码(Mask-Free)的通用 3D 动态画生成框架,能将任意静态 3DGS 场景点化为鲜活灵动且在时间上无休止无缝循环的 4D 动态世界。框架采用‘VLM 物理先验推理 -> 视频大模型生成参考视频 -> 多视角提升与补全’的两阶段流;针对多视角视频生成极易出现的时空不一致问题,团队创新性地提出了‘抗不一致性周期性 4DGS(Periodic 4DGS)’:基于傅里叶级数(Fourier-Series)构建变形场以从数学底层保证时序闭环无缝连接,并引入以参考视角为锚点的‘接地漂移场(Grounded Drift Field)’吸收跨视角生成噪点。在 39 个真实与生成场景评测中,OuroWorld 在生动度与无缝性上全面超越所有基线,并在人类双盲评测中赢得了 70.8% 至 99.0% 的压倒性胜率。

核心要点速览

  • OuroWorld 发布首个免掩码通用 3D 动态画框架,将静态 3D 高斯泼溅转化为任意视角无缝循环 4D 动态世界
  • 首创傅里叶级数周期性 4DGS 变形场,数学底层保证闭环循环,双盲人类评测斩获 70.8%~99.0% 压倒性胜率
  • 结合接地漂移场吸收多视角视频生成噪点,彻底解决 360 度视角漫游下的几何融化与跳帧闪烁
阅读全文
关联模型 / 智能体 / 厂商:
⚡ OuroWorld⚡ 3DGS⚡ Periodic-4DGS⚡ Fourier-Field🤖 Spatial-3D-Agent🤖 Cinemagraph-Animator🌐 NYCU🌐 Hugging Face

浙大 REAL 开源 ViSkill:打破文本线性化桎梏!视觉原生技能自进化驱动 VLM 智能体成功率攀至 91%

在具身智能交互、GUI 操作系统以及复杂棋盘谜题等空间密集型任务中,大语言与多模态智能体通常通过积累过往成功经验来提升样本学习效率。然而,业界目前绝大多数技能库(Skill Libraries)依然沿袭传统的‘文本中心化(Text-Centric)’范式:强制将丰富的空间几何拓扑、物体相对坐标与动作-状态映射粗暴压缩为一串纯文本字符串,导致极其关键的二维/三维视觉几何结构在编码阶段被彻底磨灭。浙江大学 REAL 实验室团队在最新成果(arXiv:2610.12403)中提出了首个视觉原生技能学习框架 ViSkill。ViSkill 打破了文本序列化的陈旧范式,将成功的空间多模态交互轨迹直接封装为原生的‘复合视觉技能卡片(Composite Visual Skill Cards)’。多模态智能体在推理时直接并行检索视觉技能卡,不仅高效引导动作决策,更利用检索到的视觉技能同步开展细粒度奖励塑形(Reward Shaping);同时,新产生的高价值交互轨迹被动态蒸馏并沉淀回技能库,构建起‘技能沉淀与策略强化’相互迭代的双向闭环。在 Sokoban(推箱子)、FrozenLake 和 PrimitiveSkill 等严苛空间决策基准上,ViSkill 取得了 0.89 的平均成功率,配合冷启动机制更是飙升至 0.91,全面碾压主流开源与闭源前沿模型,且收敛速度远超标准 PPO 算法,官方代码已开源。

核心要点速览

  • 浙大 REAL 开源 ViSkill,首创复合视觉技能卡机制,彻底终结多模态智能体对文本线性化描述的依赖
  • 在 Sokoban 与空间基准上取得 0.89~0.91 的高准确率,收敛速度较标准 PPO 提升数倍并节省 60% 采样步数
  • 构建技能沉淀与策略强化自增强飞轮,为 GUI 自动化与具身导航智能体提供开箱即用的高几何保真架构
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

机器人控制彻底告别神经网络黑盒!南洋理工等提出具身图灵机 COAP:纯代码实现 70.2% 成功率与递归自进化

当前的具身智能与机器人策略(Robot Policies)几乎完全被黑盒神经网络垄断:主流方案要么依赖端到端的视觉-语言-动作大模型(VLA),要么依赖在大模型脚手架(Agent Harness)中每一步实时向 VLM 发送环境图片进行推理。这种范式导致了极高的计算延迟、高昂的推理成本以及不可预测的幻觉与非确定性。南洋理工大学(NTU Singapore)S-Lab 团队在最新研究(arXiv:2610.12369)中提出了颠覆性的全新范式:具身图灵机(Embodied Turing Machines)与纯代码策略(Code-Only-as-Policy, COAP)。研究团队指出,物理世界本质上是一台图灵机,纸带(Tape)是机器人与环境的物理状态,而转移规则(Rules)就是控制策略。只要能够准确感知环境状态,机器人的所有决策都可以完全由确定性代码(Stateful Code)写成!在 COAP 范式下,一套纯代码库跨越多个 Episode 与任务被反复复用,测试运行时完全无需任何神经网络接入。更关键的是,显式、确定性的代码使机器人真正具备了递归自我改进(Recursive Self-Improvement, RSI)的能力——代码智能体(Coding Agents)可以在闭环中自动化演化、调试并重构机器人技能库。在 RoboDojo 涵盖 42 项极其复杂的双手协作操作任务(Bimanual Manipulation)中,生成的 COAP 代码库在测试期零模型参与下取得了惊人的 70.24% 成功率!

核心要点速览

  • 南洋理工提出具身图灵机与纯代码策略(COAP),打破大模型黑盒垄断,实现测试期零神经网络参与
  • 在 RoboDojo 42 项双手协作任务中取得 70.24% 成功率,控制延迟小于 1ms,部署推理成本降为零
  • 将机器人策略转化为可读代码库,支持 Coding Agent 闭环驱动递归自我进化(RSI)与自动化重构
阅读全文
关联模型 / 智能体 / 厂商:

看视频自学成机械大师!西北大学等推出 Video2Skill:流式具身技能发现基准,CLaRe 破解技能库停滞瓶颈

人类与顶级具身智能体之所以能在复杂现实场景中举一反三,核心在于能够从连续的多模态生活经验中,自发提炼并归纳出可复用的原子技能库(Reusable Skill Library)。现有的具身规划研究普遍假设“技能库已被人类专家预先硬编码”,无法实现自主扩展。美国西北大学与 CMU 联合团队在最新开创性研究中,形式化提出了“流式具身技能发现”(Streaming Embodied Skill Discovery, SESD)命题,并发布了标准化评测基准 Video2Skill(arXiv:2609.36691)。Video2Skill 涵盖机器人桌面操作与人类厨房日常活动的长篇视频流,考核模型三大核心素养:时间定位动作片段、聚类归纳相同物理状态转换、以及关键的“判定复用旧技能还是创建新技能”。研究对 19 款主流开源视觉语言模型(VLMs)进行了系统压测,揭露令人震惊的现象:绝大多数模型在技能识别上接近随机猜测,且模型规模扩大并未带来稳定增益。此外,模型存在严重的“技能库容量停滞”瓶颈——只能死记硬背训练期见过的常见技能,遇到全新场景时几乎从不扩展新技能。团队提出的反事实状态重平衡(CLaRe)策略有效缓解了聚类失效,为终生自进化具身机器人指明了前路。

核心要点速览

  • 西北大学与 CMU 提出流式具身技能发现(SESD)范式与 Video2Skill 基准,评测机器人看视频自建可复用技能库能力
  • 压测 19 款开源 VLM 揭示惊人短板:多数模型技能聚合近乎随机猜测,端到端模型易盲目合并而文本管道易无限膨胀
  • 揭示技能库停滞瓶颈:模型在未见转换面前几乎从不新建技能,库容锁死在基准 50% 以下,推出 CLaRe 策略破解聚类失效
阅读全文

多模态推理重大突破!CMU 联合发布 WM-VLM:内置世界模型脑补中间视觉画面,空间推理暴涨 39.25%

人类在面对复杂空间旋转、机械装配与物理拓扑推演时,往往会在大脑中主动进行“视觉想象推演(Mental Simulation)”,通过在脑海中逐步生成未来的中间视觉画面来辅助思考;然而现有的多模态大模型(VLM)在处理多步骤空间任务时,却几乎全盘退化为“纯语言 Token 思考链(Text-only CoT)”,导致其在面对 2D/3D 空间立体变换时极易产生方向颠倒与几何幻觉。卡内基梅隆大学(CMU)与 MBZUAI(Eric Xing 团队)联合提出了突破性的 WM-VLM 架构(arXiv:2609.34826):为预训练多模态大模型赋予了一个轻量级的内置“世界模型分支(Internal World Model Branch)”,赋予模型在语言推演的同时自主生成中间视觉状态(Intermediate Visual States)的能力,实现真正的图文交错混合推理(Interleaved Visual-Textual Reasoning)。两阶段训练首先教会模型如何根据物理变换指令生成下一步的精确视觉状态,继而训练模型如何观察并借助该生成状态展开后续空间逻辑决策。在 2D 与 3D 心理旋转(Mental Rotation)等严苛空间基准测试中,WM-VLM 相比监督微调基线取得了高达 39.25 个百分点的巨大精度跃升;消融实验确凿证实,一旦人为剔除或污染生成的中间视觉画面,模型性能即刻雪崩,证明了具身心智模拟是攻克高级空间几何推理的根本路径。

多模态推理重大突破!CMU 联合发布 WM-VLM:内置世界模型脑补中间视觉画面,空间推理暴涨 39.25%

核心要点速览

  • CMU 与 MBZUAI 提出首个内置世界模型的多模态架构 WM-VLM,实现图文交错的心智视觉推演(Mental Simulation)
  • 两阶段训练范式结合轻量级生成分支,先脑补关键中间视觉画面,再依托画面展开严密空间逻辑推导
  • 在 2D/3D 空间心智旋转基准上较传统 SFT 精度暴涨 39.25 个百分点,消融证实性能完全由中间视觉画面因果支撑
阅读全文

无需专属动作模型!UIUC 等开源 MotorMind:通用 VLM 零样本操控机械臂,真实 xArm6 抓取胜率达 95%

传统的具身机器人操控严重依赖专用的视觉-语言-动作模型(VLA),其不仅训练成本极高且在陌生环境中的零样本泛化能力极差,更完全无法直接享受到通用多模态大模型(VLM)快速迭代的技术红利;而近期的 Agent 方案则过度依赖庞大的代码生成器或 SAM3 等外部目标分割工具,系统极度臃肿。UIUC 与 CMU 联合团队推出了颠覆性的机器人外壳框架 MotorMind(arXiv:2609.38078):核心思想是“能否让通用 VLM 如同人类远程操作员一般,直接从视觉观察推演动作并自适应调整?”MotorMind 创新设计了连接 VLM 建议的中阶动作(Mid-Level Actions)与确定性控制器的调度外壳,配合异步闭环监控与后台工作记忆更新。在无需任何特定任务训练、代码生成或外部分割模型的纯零样本条件下,在权威基准 LIBERO-PRO 上斩获 66.7% 成功率(基线仅 13.3%),并在真实的 xArm6 实体机械臂上达成 95% 的超高实战胜率。

无需专属动作模型!UIUC 等开源 MotorMind:通用 VLM 零样本操控机械臂,真实 xArm6 抓取胜率达 95%

核心要点速览

  • 彻底摆脱 VLA 专用微调、代码生成智能体与 SAM3 外部重型分割工具的束缚,实现通用 VLM 纯零样本操控
  • 提出中阶动作表征(Mid-Level Actions)配合异步监控与后台记忆更新,实现人类远程遥控般的自适应纠错
  • LIBERO-PRO 基准成功率飙升至 66.7%(前代方案仅 13.3%),真实 xArm6 实体机械臂抓取测试胜率高达 95%
阅读全文

视觉也有“顿悟时刻”!上交大等开源 LoopVL:首创循环多模态网络,共享模块超越更大静态 VLM

现有视觉-语言多模态大模型(VLM)普遍采用单向前向传播的静态计算架构,面对高难度图像细粒度逻辑推理(如密集物体关系、几何解题、多图比对)时,必须通过大量文本显式思维链(CoT)吐词来延长计算,存在严重算力冗余与表征滞后。上海交通大学、牛津大学等顶尖机构联合推出了 LoopVL(arXiv:2609.38426,社区超 450 赞)——全球首个系统验证“循环 Transformer(Loop Transformer)”成功拓展至多模态大模型的里程碑框架。LoopVL 创新性地将“模块级循环(Module-Loop)”与“全模型级循环(Model-Loop)”深度融合,利用完全共享参数的核心网络层,持续迭代更新统一的多模态潜空间状态。评测中团队惊奇捕捉到了多模态认知中的“视觉顿悟时刻(Visual Aha Moments)”——随着循环轮次推进,注意力热图瞬间发生剧烈动态重聚焦并精准定位隐藏目标。在同等参数乃至面对规模大数倍的传统静态 VLM 时,LoopVL 在多项复杂视觉理解基准上均展现出统治级性能超越。

视觉也有“顿悟时刻”!上交大等开源 LoopVL:首创循环多模态网络,共享模块超越更大静态 VLM

核心要点速览

  • 社区狂揽超 450 赞!首创融合模块级循环与模型级循环的循环视觉大模型 LoopVL 统一架构
  • 首度实证揭示“视觉顿悟时刻(Visual Aha Moments)”,跨循环层注意力热图自发产生跨越式聚焦
  • 仅依托共享参数即在复杂多模态理解与视觉推理基准上全面击败同规模及更大尺寸的静态 VLM 基线
阅读全文