AI 编程实时动态与要闻

微软把 137B 编程模型搬上本地:MAI-Code-1.1-Flash 端侧版 SWE-Bench Verified 70.8%,GitHub Copilot 将自动在本地与云端间路由

10 月 7 日 Windows 发布会上,微软把 MAI-Code-1.1-Flash(137B 总参数 / 6.8B 激活 MoE、256K 上下文)以约 3.3 bit 量化跑在 RTX Spark PC 上,端侧 SWE-Bench Verified 70.80%、Terminal-Bench 2.1 66.29%;GitHub HydraFusion 将在 10 月下旬以实验预览让 Copilot 自动把任务分给本地或云端模型,本地调用不收推理费。MXC 智能体沙箱同日 GA。

微软把 137B 编程模型搬上本地:MAI-Code-1.1-Flash 端侧版 SWE-Bench Verified 70.8%,GitHub Copilot 将自动在本地与云端间路由

核心要点速览

  • 端侧跑分:SWE-Bench Verified 70.80%(云端原版 72.6%),Terminal-Bench 2.1 66.29%(云端 62.9%);同测 GPT-OSS-120B 仅 32.0% / 23.6%(Microsoft Command Line)
  • 资源:约 3.3 bit 混合精度量化 + DFlash2 投机解码,256K 上下文峰值内存 75.5GB;64K / 128K 上下文预填充 923.5 / 769.8 tok/s
  • 路由:HydraFusion 本地+云端混合路由 10 月下旬以实验预览进入 Copilot app、Copilot CLI 与 VS Code,本地调用不收推理费(Windows Blog)
  • 现在就能用:Copilot CLI 1.0.94-0 起 /model 可发现本机 Ollama 模型(需支持工具调用与流式)(GitHub Changelog)
  • 安全:MXC 智能体容器在 Windows 11 GA,Codex、Copilot、OpenClaw、LM Studio 等已支持,Claude Code、Hermes Agent 等将跟进
阅读全文

NVIDIA RTX Spark:本地 Agent 加速——RTX 5090 上 llama.cpp 最高 1.9×,Blackwell vLLM 1.2×

NVIDIA RTX Spark 公布本地 Agent 推理优化:GeForce RTX 5090 上 llama.cpp 吞吐最高提升约 1.9 倍;RTX PRO 6000 Blackwell 上 vLLM 约 1.2 倍;双机 DGX Spark 集群最高约 1.4 倍。面向本地部署与边缘 Agent 服务路径的持续加速。

核心要点速览

  • llama.cpp:RTX 5090 吞吐最高约 1.9×,本地 Agent 推理更轻。
  • vLLM:RTX PRO 6000 Blackwell 约 1.2×;双机 DGX Spark 集群最高约 1.4×。
  • 定位:强化本地 / 边缘 Agent 服务栈,而非仅云端推理。
阅读全文
关联模型 / 智能体 / 厂商: