微软 Foundry Local 接 GitHub Copilot：本地跑 Qwen3.8-27B 做编码 Agent，约 24GB 显存即可，厂商口径 Terminal-Bench 2.1 约 73.0

核心背景与行业痛点

云端编码 Agent 按 Token 计费、代码出网、断网即停；本地 27B 又常卡显存与长仓库吞吐。微软想让日常改代码留本机，难题再回云端。

架构亮点与底层机制

Foundry Local ≥0.13.0 用 ONNX Runtime 跑 4bit Qwen3.8-27B（权重约 18GB）：DFlash2 推测解码、INT4/KV 量化、前缀缓存。24GB 显存约 64K 上下文，≥32GB 可冲向 262K。Copilot App 经 BYOK 指向本机 endpoint。

权威 Benchmark 与实测跑分对比

博文表格为模型卡口径：Terminal-Bench 2.1 73.0、SWE-bench Pro 61.7、NL2Repo 42.3、DeepSWE 42.2，非 4bit 复测。微软自测称同量化下 RTX 5090 / DGX Spark 快于 llama.cpp，超约 131K 后优势更大；并承认复杂推理仍宜云端。

开发者实战落地与开箱指南

winget install Microsoft.FoundryLocal → foundry model load qwen3.8-27b → Copilot 填 Base URL。适合隐私/离线日常编码；大重构仍用云端。上线前确认遥测与 COPILOT_OFFLINE，并自测量化后工具调用。