UCSD 开源 3D 具身探索智能体 ACT3D:纯单目第一人称交互学习,超越 Gemini 3.6 Flash
加利福尼亚大学圣迭戈分校(UCSD)研究团队在 arXiv:2610.21783 中推出 3D 空间主动探索与推理智能体 ACT3D。针对传统 3D 具身模型依赖昂贵稠密多视角图像、多模态视频流或重型点云编码的痛点,该研究完整保留单目视觉语言模型(VLM)的原生单帧第一人称编码,将 3D 环境作为动作与交互观测场。经结果驱动强化学习(RL)优化后,在六大 3D 评测基准上取得 53.2% 的平均准确率(较基座 Qwen 跃升 22.0%),一举超越商业旗舰 Gemini 3.6 Flash,且输入帧数节省 50%~70%。

核心要点速览
- UCSD 联合佐治亚理工发布 3D 主动交互智能体 ACT3D(arXiv:2610.21783),纯单目第一人称图像输入打破传统多视角堆砌
- 以结果驱动强化学习(RL)优化视角探索,在无路径先验监督下自主习得问题条件化寻路与遮挡消除策略
- 在六大 3D 基准上取得 53.2% 平均准确率,较基座模型提升 22.0%,超越商业旗舰 Gemini 3.6 Flash 且输入帧数节省 50%~70%
- 在严重遮挡的复杂 3D 推理任务中增益高达 16.3%,未见场景泛化提升 5.9%,为低成本具身导航提供高效算法架构