10 月 31 日,Vercel Labs 的 Chris Tate(agent-browser 作者)在 X 上发布 agent-desktop,称其为「整台电脑版的 agent-browser」。它是一个 Rust 编写、Apache-2.0 开源的 CLI 和 C 库:读取桌面应用的系统无障碍树,以 JSON 返回每个可操作元素的 ref,Agent 按 ref 点击、输入后再快照核对,不做像素匹配,默认在后台无头运行。1.0.0 已于 10 月 27 日发布并首次加入 Linux 支持,目前 npm 最新版为 1.0.2。
核心要点速览
- ✓安装:
npm install -g agent-desktop,一个包自带 x64/ARM64 原生二进制;1.0.0(10-27)加入 Linux(glibc 2.35+,经 AT-SPI),npm 最新 1.0.2(10-30) - ✓工作方式:
snapshot输出带 ref 的 JSON 树,click @<snapshot_id>:eN操作,再snapshot核对;UI 变化时返回STALE_REF,错误里带retry是否安全的标记 - ✓规模:README 称共 60 个命令名、56 个可用命令,覆盖窗口、键鼠、通知、剪贴板、等待与会话追踪
- ✓默认无头:按 ref 的操作走无障碍 API,不移动鼠标、不抢焦点,需要真实输入时加
--headed;Chris Tate 称多个 Agent 可各带一个光标并行使用电脑 - ✓跑分:官方未公布任何成功率或速度基准;它只是工具,不内置模型,网页自动化仍交给 agent-browser
开发者 3 秒速决决策指标
把技术选型换算成你的开发预算
40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟
相关资源与官方项目出处
免代理直达深度技术解析与实战评估
核心背景与行业痛点
让编码 Agent 操作桌面应用,主流做法是「截图 + 视觉模型猜坐标」:慢、费 token,界面一变就点错,而且会抢走用户的鼠标和焦点。Vercel Labs 此前的 agent-browser 用可访问性快照解决了网页端的问题,但 Agent 一旦要测试 Electron 应用、操作 Finder 或系统设置,就又回到像素路线。agent-desktop 想把同一思路搬到整个桌面。
架构亮点与底层机制
据 GitHub README,agent-desktop 用 Rust 编写,同时提供 CLI 和 C 库(libagent_desktop_ffi)。它读取操作系统的无障碍树:macOS 的 Accessibility、Windows 的 UI Automation、Linux 的 AT-SPI,把每个可操作元素编号为 @<snapshot_id>:eN。ref 绑定到具体快照,界面变化后旧 ref 会返回 STALE_REF,而不是误点到同名元素;每条命令只输出一个 JSON 信封,错误里注明重试是否安全。默认无头运行,不移动指针也不抢焦点,--headed 才允许真实键鼠。它本身不含模型,「观察、操作、核对」的循环留在调用它的 Agent 里。
权威 Benchmark 与实测跑分对比
官方未公布成功率、延迟或与截图式 Computer Use 的对比跑分。可核对的数字只有工程层面:README 称共 60 个命令名、56 个可用命令;1.0.0 于 10 月 27 日发布,npm 至今已有 46 个版本,最新 1.0.2。「多个 Agent 各带一个光标并行」来自 Chris Tate 的推文描述,尚无第三方测评。
开发者实战落地与开箱指南
npm install -g agent-desktop 后运行 agent-desktop status 检查权限,macOS 需按 permissions --guide 授予辅助功能权限。把 agent-desktop skills get desktop 写进 AGENTS.md,或用 npx skills add 安装技能,即可让 Claude Code、Codex 等直接调用。复杂应用先用 --skeleton 获取骨架再下钻。注意快照、截图和剪贴板可能含隐私内容,官方提醒不要放进公开日志。
即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察