AI 编程实时动态与要闻

微软开源 4B 电脑操作智能体 Mage-VL-Cowork:一个模型自己决定点界面还是写 bash,OSWorld-Verified 66.0%

微软 Mage 团队 10 月 30 日在 Hugging Face 以 Apache-2.0 发布 Mage-VL-Cowork:4B 参数的多模态电脑操作智能体,同一个模型每一步自己选择用截图点界面(computer_use)还是在终端跑 bash/Python,不需要外部调度器。官方报告它在 OSWorld-Verified(361 题、50 步上限)两次平均 66.0%,高于 Qwen3.6-27B 的 63.9%,但仍低于 9B 的 SCALECUA-Qwen3.5-9B(68.7%)。

微软开源 4B 电脑操作智能体 Mage-VL-Cowork:一个模型自己决定点界面还是写 bash,OSWorld-Verified 66.0%

核心要点速览

  • 4B 参数,基于 Mage-VL(Mage-ViT 视觉编码器 + Qwen3-4B-Instruct-2507),bf16 权重约 9.48 GB,Apache-2.0 许可。
  • OSWorld-Verified 两次独立跑分 65.33% 和 66.75%,取平均 66.0%;操作系统类任务 87.5%,多应用工作流 62.7%。
  • 官方对比:同一个 LibreOffice Calc 建图表任务,它用终端里的 Python 改表格 39 秒完成(6 步),纯界面操作的 Qwen3.6-27B 用了 9 分 56 秒(39 步)。
  • 在线 RL 比混合 SFT 再提升 10.16 个百分点,同时平均模型调用次数减少 13.0%、输出 token 减少 25.4%。
  • 训练数据由 Mage-CUA-Forge 生成约 29.4 万个桌面和网页任务,覆盖 6,915 种技能,单任务生成成本从 0.906 美元降到 0.158 美元。
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Mage-VL-Cowork⚡ Mage-VL⚡ Qwen3-4B⚡ Qwen3.6-27B🌐 Microsoft

阿里通义实验室开源 OpenGCUA:通用计算机控制智能体全开源技术栈,OSWorld 步数锐减 53%

阿里巴巴通义实验室(Tongyi-MAI)在 arXiv:2610.22200 正式发布并全面开源 OpenGCUA(Open Generalist Computer-Use Agent)通用计算机控制智能体技术栈。针对当前 GUI 智能体过度依赖逐帧截图与单点点击、无法执行高效批处理操作的行业痛点,OpenGCUA 首创“代码执行即行动(Code-Execution-as-Action)”范式,将视觉感知、可访问性树(Accessibility Tree)、Bash 脚本与 Playwright API 深度融合。在权威 OSWorld-v2 基准测试中,OpenGCUA 推动各大主流前沿模型平均得分大幅提升 19.6 分,同时将任务完成平均步数削减 53.0%,并配套开源了 macOS 实体机状态栏应用与跨设备 SDK。

阿里通义实验室开源 OpenGCUA:通用计算机控制智能体全开源技术栈,OSWorld 步数锐减 53%

核心要点速览

  • 阿里通义开源 OpenGCUA 全技术栈,收录于 arXiv:2610.22200,代码采用 Apache 2.0 协议全面开源
  • 提出“代码执行即行动”机制,将多轮循环点击转化为包含条件分支、循环与 API 调用的聚合 Python/Bash 脚本
  • 在权威 OSWorld-v2 基准测试中,推动跨 8 大前沿模型平均基准分提升 +19.6 分,平均执行步数削减 53.0%
  • 开源发布 macOS 物理设备状态栏调度 Harness 及连接 PC、浏览器与移动端的 Cross-Device SDK
阅读全文

智能体自主进化接口突破:Evolving Agent Interfaces 框架让 CUA 自行构建 API,任务成功率大幅提升

多所顶尖高校与科研团队在 arXiv:2610.28601 中提出突破性计算机使用智能体(CUA)自我演化架构 Evolving Agent Interfaces 与 Agent S4。传统 CUA 往往被严重限制在人类设计的低效图形界面中(如通过鼠标逐格点击电子表格),导致长程任务步骤冗长且极易因微小误触失败。该框架打破固定接口束缚,赋予元智能体(Meta-Agent)在任务执行中根据运行环境与需求,自主编写、测试并动态演化专属编程 API 与专用代码仓库的能力。在最具挑战的 OSWorld V2 与 ScienceBoard 权威基准上,该方法使 27B 开源模型成功率从 55.03% 跃升至 58.58%(净多解决 6 项核心任务),以极小开销逼近商业前沿旗舰模型。

智能体自主进化接口突破:Evolving Agent Interfaces 框架让 CUA 自行构建 API,任务成功率大幅提升

核心要点速览

  • 研究团队在 arXiv:2610.28601 中发布 Evolving Agent Interfaces 框架,终结 CUA 只能机械模拟人类鼠标键盘操作的旧时代
  • 元智能体(Meta-Agent)可在沙盒环境中实时探测运行软件,自主编写专属 Python 库、脚本与命令行 API 替代繁琐 GUI 交互
  • 在权威桌面智能体评测集 OSWorld V2 与 ScienceBoard 上,使 27B 开源模型任务成功率从 55.03% 飙升至 58.58%
  • 长程复杂任务的操作步骤与 Token 消耗大幅缩减,为通用操作系统级自主 Agent 奠定了自进化接口基础设施
阅读全文
关联模型 / 智能体 / 厂商:

让大模型从“逐步苦力”变“并行总审”!SpecAgent 轨迹级投机推理耗时砍半,LEASH 隐状态升级在 OSWorld 击败全程 Claude Opus 5

为终结智能体每一步都调用昂贵旗舰大模型的算力浪费,今日两项重磅研究分别从‘轨迹级投机验证’与‘隐状态不确定性升级’实现突破:LARK AI Lab 开源的 SpecAgent(arXiv:2610.21463)让轻量小模型连续起草并执行只读工具调用(遇到首个写操作时暂停),再由大模型通过单次并行 Prefill 批量做语义审查与局部修复,在 τ²-Bench 上逼近大模型原版成功率的同时将显存流量与端到端耗时直接砍半;而 LEASH(arXiv:2610.22280)零额外前向开销复用隐状态不确定性动态移交控制权,搭载 Qwen3.5-35B-A3B 在 OSWorld 上以 73.66% 成功率反超全程调用的 Claude Opus 5(72.90%),同时节省 19.2% 成本。

让大模型从“逐步苦力”变“并行总审”!SpecAgent 轨迹级投机推理耗时砍半,LEASH 隐状态升级在 OSWorld 击败全程 Claude Opus 5

核心要点速览

  • SpecAgent 首创轨迹级投机推理:小模型真实执行连续只读工具并在写操作前暂停,强模型仅用单次并行 Prefill 完成批量语义验证
  • 端到端耗时与显存流量双双砍半:在 τ²-Bench 上逼近强模型成功率(差距 <1 分)同时省去 50% 耗时,MCP-Atlas 强模型生成 Token 减半
  • LEASH 零额外开销隐状态升级:基于 Qwen3.5-35B-A3B 在 OSWorld 斩获 73.66% 成功率,反超全程调用的 Claude Opus 5(72.90%)并降本 19.2%
阅读全文
AD赞助内容

阿里通义 MAI 开源通用计算机操作全栈 OpenGCUA 与 MAI-Gym:OSWorld-v2 暴涨 19.6 分、步数锐减 53%

针对闭源通用计算机操作智能体(如 GPT-6 Astra Computer Use)难以系统研究与复现的痛点,阿里通义 MAI 团队重磅连发两项开源工程:全栈通用计算机使用框架 OpenGCUA(arXiv:2610.22200)与支持 2 万并发实例的在线强化学习平台 MAI-Gym(arXiv:2610.20939)。OpenGCUA 融合视觉 GUI 与程序化代码执行,在 OSWorld-v2 上使包括 GPT-6 Astra 与 Claude Opus 5 在内的全部 8 款模型平均提分 19.6 分、执行步数减少 53.0%;MAI-Gym 训练出的 9B 模型更在 MobileWorld(78.4%)与 OSWorld-Verified(76.2%)创下 10B 内开源 SOTA。

阿里通义 MAI 开源通用计算机操作全栈 OpenGCUA 与 MAI-Gym:OSWorld-v2 暴涨 19.6 分、步数锐减 53%

核心要点速览

  • 开源通用计算机操作全栈 OpenGCUA:融合 GUI 视觉交互与代码执行,在 OSWorld-v2 上使 GPT-6 Astra 与 Claude Opus 5 等 8 款模型平均提分 19.6 分、步数锐减 53.0%
  • 揭示真机 Token 效率代差:在真实 macOS 任务测试中,发现 Qwen3.8-Max 消耗的推理 Token 数高达 GPT-6 Astra 的 19.4 倍
  • MAI-Gym 支撑 2 万并发实例在线 RL:训练出 MAI-Gym-9B 斩获 MobileWorld 78.4% 与 OSWorld-Verified 76.2%,且仿真训练迁移至真机购票成功率从 28.8% 跃升至 48.1%
阅读全文

Anthropic 正式发布 Claude Haiku 5.5:输入 $0.10/M、OSWorld 72.4%,平均比 Haiku 4.5 便宜约 75%

Anthropic 10 月 7 日上线 Claude 5.5 家族最后一块拼图 Haiku 5.5(模型 ID claude-haiku-5-5),定位高频、低成本的摘要、上下文压缩、分类与编码子 Agent,官方称是其最快模型。≤100K 提示每百万 token 输入 $0.10、输出 $0.50;首个支持 effort 档位的 Haiku。OSWorld 2.1 离线子集 72.4%(Haiku 4.5 为 15.7%),Terminal-Bench 4.0 39.2%。同日 Sonnet 5.5 缓存读降价 50%,Max/Team 订阅每月附送 API 额度。

Anthropic 正式发布 Claude Haiku 5.5:输入 $0.10/M、OSWorld 72.4%,平均比 Haiku 4.5 便宜约 75%

核心要点速览

  • 价格:≤100K 提示输入 $0.10 / 输出 $0.50 / 缓存读 $0.01(每百万 token),>100K 为 $0.50 / $2.50;Haiku 4.5 为 $1 / $5,官方折算平均便宜约 75%(官方发布页)
  • OSWorld 2.1 离线子集 72.4%,对比 Haiku 4.5 15.7%、GPT-6 Luna 48.9%、Sonnet 5.5 83.9%
  • Terminal-Bench 4.0 39.2%(Haiku 4.5 0.0%、GPT-6 Luna 16.4%);FrontierCode 1.1 Main 46.4%(Sonnet 5.5 xhigh 52.1%)
  • 首个支持 low / medium / high / xhigh / max effort 的 Haiku;Claude Code v2.1.293 已将其设为 API 默认 Haiku,1M 上下文(Release notes)
  • 同日:Sonnet 5.5 缓存读从 $0.20 降至 $0.10/M(多数 Agent 任务约省 20%);Max 5x / 20x 每月 $100 / $200 API 额度,Team 每席 $20(Standard)/ $100(Premium)合池、上限 $500;不含交互式 Claude Code,不结转(条款)
阅读全文

底座模型冻结也能自进化!GUI-HARVEST 开源图形智能体进化架构:OSWorld 狂飙 12.3 分,跨平台迁移 GPT-5 涨 13.8%

包裹在图形界面大模型(GUI Models)外部的可执行测试与运行框架(Agent Harness),负责掌控从多模态观测组装、动作空间解析,到异常恢复、校验重试与终态停止的全部控制中枢。然而,在底座多模态权重保持冻结的前提下,如何自动优化这一外层 Harness 长期面临三大咬合难题:如何将抽象意图与界面真实前后视觉跳变精确挂钩、如何在充满随机波动的执行中精准归因故障、以及如何将多任务中沉淀的失败模式转化为确定性的代码级修正。来自浙江大学与新加坡国立大学等机构的研究团队提出了全自动 Harness 进化框架 GUI-HARVEST(arXiv:2610.00948)。GUI-HARVEST 创造性地将模型动作与前后截图的界面转移动态对齐,把同一任务的多轮重复运行作为联合证据单元,将验证过的复发失败模式自动映射为对 Harness Python 源码的有界代码编辑。在 OSWorld-Verified 评测中,GUI-HARVEST 驱动各大主流模型全面爆发,Qwen3-VL-32B-Instruct 性能暴涨 12.33 个百分点;更为震撼的是,在 OSWorld 上进化出的冻结 Harness 零样本迁移至 WindowsAgentArena 时,直接让 GPT-5 在 50 步任务中的完成率暴涨 13.87 个百分点。代码已在 GitHub 全面开源(github.com/GaryYang12345/GUI-HARVEST)。

核心要点速览

  • 提出首个面向 GUI 智能体的全自动 Harness 源码级进化框架 GUI-HARVEST,实现底座权重完全冻结下的自主进化
  • 将动作意图与前后截图界面跃迁精准对齐,依托跨任务复发失败模式直接自动重构生成 Python 调度补丁
  • OSWorld 上 Qwen3-VL-32B 性能暴增 12.33 分,进化出的 Harness 零样本跨平台迁移至 Windows 助推 GPT-5 暴涨 13.87 分
阅读全文
关联模型 / 智能体 / 厂商:

解决桌面多窗口视觉死穴!苏黎世联邦理工等开源 DeskForge:1.2M 密集多模态轨迹,Qwen3.5-4B 零样本定位大涨 11.5%

随着 Anthropic Computer Use 与各种操作系统智能体(OS Agents)进入桌面工作流,如何在多应用层叠、分辨率各异以及同质化按钮混淆的复杂真实桌面场景中精准定位可操作控件,成为制约智能体长程作业的核心瓶颈。现有 GUI 训练数据缺乏受控的环境状态演化与细粒度像素级密集标注。为此,苏黎世联邦理工学院(ETH Zurich)与 IBM Research 联合推出可控桌面数据生成系统 DeskForge(arXiv:2610.02320)。该系统通过在可控沙盒中动态编排真实桌面应用,实时融合系统截图、无障碍辅助树(Accessibility Tree)与窗口几何坐标,构建了涵盖 120 万密集桌面交互观测与 1.597 亿控件实例的超大规模数据集 DeskForge-1M。在仅使用其中 20 万样本微调后,Qwen3.5-4B 等视觉语言模型在 ScreenSpot-Pro 上的定位准确率暴涨 11.51 个百分点,在 OSWorld-G 上提升 10.11 个百分点;在长流程真实任务测试中,WebArena-Infinity 通关数由 31 跃升至 50,OpenApps 成功率翻了 5 倍。项目主页与数据集已全面开放(saidgurbuz.github.io/deskforge)。

核心要点速览

  • ETH Zurich 与 IBM 推出可控桌面数据生成系统 DeskForge,融合截图、辅助树与窗口几何生成 1.2M 观测与 1.597 亿控件实例
  • 仅用 20 万样本微调即让 Qwen3.5-4B 在 ScreenSpot-Pro 准确率暴涨 11.51%、OSWorld-G 攀升 10.11%,5 大基准全面超越基线
  • 长程任务完成能力翻倍突破:WebArena-Infinity 通关数由 31 升至 50,企业级 OpenApps 任务成功率暴涨 5 倍,权重与数据全开源
阅读全文
关联模型 / 智能体 / 厂商:

告别盲盒式终态测试!NVIDIA 推出 OSWorld-Pro:首创桌面智能体全流程评测,Claude Opus 5 仅获 75.7%

随着 Anthropic Computer Use 与各类桌面自动化智能体(Computer-Use Agents, CUAs)加速接管操作系统操作,如何科学评估多步骤 GUI 交互的真实能力成为业界最急迫的命题。现有的代表性基准(如 OSWorld)主要依赖最终结果判定(Outcome-based Verification),即在 Agent 执行了数百步鼠标键盘操作后,仅检测最终文件或系统状态是否发生改变。这种“黑盒终态评估”完全掩盖了智能体在中间步骤中“如何犯错”与“为何失败”——例如因键盘输入打字错误失败,与因视觉定位不准导致鼠标误点失败,所需要的工程修复路径完全风马牛不相及。NVIDIA 研究团队推出了首个基于全流程过程解构的桌面智能体评测系统 OSWorld-Pro(arXiv:2609.24890):包含 300 多个真实系统级生产任务,将其细粒度拆解为 2,800 多个连续依赖的子目标(Subgoals),并依托 67,000 多条高质量人类专家操作注释作为基准。通过人类对齐的 LLM-Judge 对各阶段子目标达成度展开逐层量化,评测揭示即便是业界最前沿模型如 Claude Opus 5 在 OSWorld-Pro 上的得分也仅为 75.7%(低于标准 OSWorld 的 83.4%),并精准捕获了无效漫游动作与点击像素级偏移两大核心故障模式。

告别盲盒式终态测试!NVIDIA 推出 OSWorld-Pro:首创桌面智能体全流程评测,Claude Opus 5 仅获 75.7%

核心要点速览

  • NVIDIA 推出首个基于全流程解构的桌面智能体评测系统 OSWorld-Pro,拆解 300+ 任务为 2,800+ 细粒度子目标
  • 依托 67,000+ 人类专家密集注释,揭露顶尖模型 Claude Opus 5 得分仅 75.7%(低于标准 OSWorld 的 83.4%)
  • 精确定位无效漫游与鼠标像素级点击偏移两大核心死穴,彻底终结桌面智能体盲盒式终态测试
阅读全文

浙大联合开源 HybridCUA:破局纯 GUI 智能体低效瓶颈,首创 GUI 与命令行双流协同,OSWorld 斩获 53.6% 暴涨 14.8 个百分点

现有多模态计算机使用智能体(CUA)在处理复杂桌面任务时面临严峻两难:完全依赖图形界面(GUI)点击输入容易受动态渲染和窗口遮挡影响,不仅推理极为缓慢且极易出错;而依赖特定应用程序的专有 API 又需耗费巨大的定制工程,根本无法泛化至数以万计的日常软件。浙江大学联合研究团队推出首个软硬兼施的跨平台计算机使用智能体框架 HybridCUA。通过构建包含 5,000 条混合轨迹与 3,000 个强化学习可验证任务的 HybridCUA-8K 基准,提出两阶段训练机制:先通过多模态 SFT 学习图文与命令行的交替调用,再通过命令行感知强化学习(CLI-Aware RL)激励模型在关键节点自适应决策使用 Shell 脚本。在主流真实操作系统基准 OSWorld 上,HybridCUA-9B 达到 53.6% 成功率,相比基础模型暴涨 14.8 个百分点,并在 WindowsAgentArena 获得 4.0 个百分点跨平台增益。

浙大联合开源 HybridCUA:破局纯 GUI 智能体低效瓶颈,首创 GUI 与命令行双流协同,OSWorld 斩获 53.6% 暴涨 14.8 个百分点

核心要点速览

  • GUI 与 CLI 双流深度融合:打破以往 CUA 仅靠视觉截屏模拟鼠标键盘点击的单一范式,将 Bash/PowerShell 脚本的高效确定性与图形界面的广泛通用性无缝打通。
  • HybridCUA-8K 混合轨迹基准:开源首个包含 5,000 条高质量 GUI+CLI 混合执行轨迹与 3,000 个基于环境结果反馈的可验证强化学习任务(RLVR),填补跨模态桌面决策数据空白。
  • OSWorld 53.6% 与跨平台实证:HybridCUA-9B 在 Linux 桌面 OSWorld 评测中准确率达到 53.6%(绝对提升 +14.8%),在 WindowsAgentArena 提升 4.0%,展现出卓越的操作系统级跨生态泛化力。
阅读全文
关联模型 / 智能体 / 厂商:
⚡ HybridCUA-9B⚡ Qwen2-VL-7B⚡ Claude-3.5-Computer-Use⚡ OSWorld-Agent🤖 Computer-Use Agent🤖 HybridCUA🤖 Desktop Agent🌐 Zhejiang University🌐 Hugging Face🌐 arXiv
AD赞助内容

OpenAI 员工:Astra 电脑操控大幅领先 Sol,ScreenSpot-Pro 76.9%→92.7%

OpenAI 员工 Vaibhav(@reach_vb)披露 GPT-6 Astra 相对 GPT-5.6 Sol 的电脑操控评测跃升:ScreenSpot-Pro(找点击位置)从 76.9% 升至 92.7%;OSWorld 2.0 桌面工作流从 65.7% 到 72.6%,延迟模拟耗时少 47%;Mind2Web 网页任务配合更新后的 Codex harness 约快 1.9 倍。这对依赖浏览器/桌面 Agent 与 Codex 的编码工作流是硬指标信号。

核心要点速览

  • ScreenSpot-Pro:76.9% → 92.7%,点击定位能力显著提升。
  • OSWorld 2.0:65.7% → 72.6%,延迟模拟耗时减少约 47%。
  • Mind2Web:Astra + 更新版 Codex harness 约快 1.9 倍,利好网页/桌面 Agent。
阅读全文
关联模型 / 智能体 / 厂商:

Yutori 发布 Navigator n2:27B 桌面级 Computer-Use 模型,打通 GUI、命令行、API 与代码

Yutori 正式推出 Navigator n2,这是一款 27B 参数的通用桌面级电脑操作大模型,全面覆盖 Linux、macOS 与 Windows 系统。在 OSWorld 2.0 评测中斩获 65.2%,API 定价每百万 Token 输入 $0.50(缓存 $0.05)、输出 $4.00。

核心要点速览

  • 多模态混合决策:不再单纯依靠缓慢的 GUI 点击,模型会智能在图形界面、Shell 命令、系统 API 或即时脚本间自动选择最快路径;
  • 基准跑分拔尖:OSWorld 2.0 达到 65.2%、OSWorld-Verified 85.3%、MacAgentBench 83.1%;
  • 27B 的适中参数规模与低廉费率让桌面级智能体从演示阶段正式步入规模化工业部署。
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Yutori Navigator N2

Meta 发布 Muse Glimmer:30B 开源本地常驻智能体模型,采用 Apache 2.0 协议

Meta 8 月发布 30B 开源权重本地 Agent 模型 Muse Glimmer,Apache 2.0 协议,量化后权重不足 20GB,可在消费级 Mac 或单卡 PC 上运行。10 月 19 日 Meta 发布技术报告:约 29.6B 稠密架构、由 Muse Spark 蒸馏,官方跑分在 MCPAtlas、τ³-Banking、SWE-Bench Pro 等工具调用和 Agent 项目上领先 Gemma4-31B 与 Qwen3.6-27B,但 SWE-Bench Verified、TerminalBench 2.1、OSWorld 仍落后 Qwen3.6-27B。

Meta 发布 Muse Glimmer:30B 开源本地常驻智能体模型,采用 Apache 2.0 协议

核心要点速览

  • 技术报告(10 月 19 日):约 29.6B 稠密参数、52 层,另配约 1.8B 视觉编码器,上下文 128K+,由 Muse Spark 蒸馏。
  • 32GB 显存约束下稠密比 MoE 计算效率高 2–2.5 倍;BF16 权重 55.7GB,量化后语言模型权重低于 20GB。
  • 官方跑分:MCPAtlas 75.5(Gemma4-31B 54.2、Qwen3.6-27B 62.5),SWE-Bench Pro 51.2,AA-LCR 80.0。
  • 并非全面领先:SWE-Bench Verified 76.0 低于 Qwen 77.2,TerminalBench 2.1 51.7 对 60.7。
  • Apache 2.0 开源,配 DFlash 草稿头可在单张 RTX 5090 上实用运行。
阅读全文
关联模型 / 智能体 / 厂商: