解决桌面多窗口视觉死穴!苏黎世联邦理工等开源 DeskForge:1.2M 密集多模态轨迹,Qwen3.5-4B 零样本定位大涨 11.5%
随着 Anthropic Computer Use 与各种操作系统智能体(OS Agents)进入桌面工作流,如何在多应用层叠、分辨率各异以及同质化按钮混淆的复杂真实桌面场景中精准定位可操作控件,成为制约智能体长程作业的核心瓶颈。现有 GUI 训练数据缺乏受控的环境状态演化与细粒度像素级密集标注。为此,苏黎世联邦理工学院(ETH Zurich)与 IBM Research 联合推出可控桌面数据生成系统 DeskForge(arXiv:2610.02320)。该系统通过在可控沙盒中动态编排真实桌面应用,实时融合系统截图、无障碍辅助树(Accessibility Tree)与窗口几何坐标,构建了涵盖 120 万密集桌面交互观测与 1.597 亿控件实例的超大规模数据集 DeskForge-1M。在仅使用其中 20 万样本微调后,Qwen3.5-4B 等视觉语言模型在 ScreenSpot-Pro 上的定位准确率暴涨 11.51 个百分点,在 OSWorld-G 上提升 10.11 个百分点;在长流程真实任务测试中,WebArena-Infinity 通关数由 31 跃升至 50,OpenApps 成功率翻了 5 倍。项目主页与数据集已全面开放(saidgurbuz.github.io/deskforge)。
核心要点速览
- ETH Zurich 与 IBM 推出可控桌面数据生成系统 DeskForge,融合截图、辅助树与窗口几何生成 1.2M 观测与 1.597 亿控件实例
- 仅用 20 万样本微调即让 Qwen3.5-4B 在 ScreenSpot-Pro 准确率暴涨 11.51%、OSWorld-G 攀升 10.11%,5 大基准全面超越基线
- 长程任务完成能力翻倍突破:WebArena-Infinity 通关数由 31 升至 50,企业级 OpenApps 任务成功率暴涨 5 倍,权重与数据全开源