GitHub 于 2026-10-01 Changelog 宣布 Computer Use 进入公测:Copilot CLI 与 Copilot App 可在本机读写无障碍树/截图、点击、键入、滚动与跨应用工作流,覆盖无 API/CLI/MCP 的遗留 GUI。默认关闭,需 /computer on 或设置开关;企业策略可强制禁用。

核心要点速览 (Key Takeaways)

  • ✓官宣:Changelog 2026-10-01;概念文档 About computer use
  • ✓表面:仅 本地会话 的 Copilot CLI + Copilot App;平台 macOS / Windows(Linux 桌面未列)
  • ✓能力:读无障碍树或截图 → 点击/键入/快捷键/滚动/拖拽/跨应用导航;适合无 API·CLI·MCP 的遗留 GUI
  • ✓开关:默认关;CLI /computer on|show|off;App Settings → Computer Use;macOS 需 Accessibility + Screen Recording
  • ✓治理:跟随时表面 Tool Permissions;Always allow 本机 CLI/App 共享;企业 managed settings 可禁用且本地无法覆盖
🧭

阅读完核心要点?进一步了解模型实力与实际开销

7 大权威镜像天梯跑分与 29+ 款主流编程套餐横向比价测算

🔬

深度技术解析与实战评估

核心背景与行业痛点

大量企业排障、报销、桌面运维仍依赖无 API / 无 CLI / 无 MCP 的遗留 GUI。终端 Agent 能改仓库,却打不开本机财务客户端或定制桌面工具。GitHub 在 2026-10-01 Changelog 宣布 Computer Use 公测:在 Copilot CLI 与 Copilot App 上,让 Agent 直接操控 macOS/Windows 本地桌面应用。国内读者请读官方文档,勿依赖推文摘要。

架构亮点与底层机制

按 About computer use:启用后 Agent 可通过 OS 无障碍树读取控件,必要时用截图补视觉上下文,再执行点击、键入/编辑、按键、滚动、拖拽与跨应用导航。实现侧为捆绑的 computer-use 插件 + MCP server(/computer show 可查状态;/plugin、/mcp list 排障)。官方明确:若任务可用 API、MCP、终端、文件系统或专用浏览器工具完成,应优先那些更结构化、更可预测的路径——Computer Use 是 GUI 缺口的补位,不是替代。权限跟随当前表面的 Tool Permissions;Always allow 的应用名单在同一台机器的 CLI 与 App 间共享;企业 managed settings 可禁用,本地偏好无法覆盖。macOS 需授予 Accessibility 与 Screen Recording。

权威 Benchmark 与实测跑分对比

Changelog 与概念文档未公布 OSWorld、WebArena、CUA-SWE 或相对 Anthropic/OpenAI Computer Use 的官方对照分——本稿不编造数字。可核对产品锚点:公测、默认关闭、仅本地会话、仅 macOS/Windows;能力边界写在 Responsible use — Agents(错误控件、动态界面、敏感屏显、Always allow 风险)。同类生态对照仅作语境:仓库内已有 CUA-SWE 视觉评测、OpenAI Agents SDK Computer Use 条目,但不等于本次 Copilot 产品公测的跑分。

开发者实战落地与开箱指南

  1. 更新 Copilot CLI / Copilot App 到支持 Computer Use 的版本;确认账号与 OS(macOS/Windows 本地会话)。
  2. CLI:会话内 /computer on,用 /computer show 确认插件与 MCP 已连;关闭用 /computer off。App:Settings → Computer Use → Enable;macOS 在 Prerequisites 授予两项权限。
  3. 提示词写清目标结果、涉及应用、禁止动作(例:只汇总主窗口状态,勿改值、勿提交表单)。审批弹窗核对应用与动作后再 Allow / Always allow。
  4. 中断:CLI 连按 Esc 两次;App 点 Stop 或 Esc。定期在 App 的 Always allowed apps 清理高敏应用。
  5. 组织管理员先在企业策略中决定是否允许 Computer Use,再向团队推广。更多:[/features/copilot/cli](https://github.com/features/copilot/cli/)。