Edge0 开放 145B 端侧模型 Edge0-145B 和 Edge0-120B 权重：每 token 激活约 10B，单张 24GB 消费级显卡可跑，厂商称 Terminal-Bench 2.1 得分 86.5 高于 Claude Opus 4.6

核心背景与行业痛点

端侧模型长期被内存卡住。Edge0 博客回顾，2026 年 9 月以前多数端侧模型不到 10B 参数，苹果端侧基础模型约 3B，Gemini Nano 只有 1.8B 和 3.25B 两档。想在本地跑写代码、调工具的智能体，要么换小模型，要么回到云端付 token 费。Edge0 由 Samuel Zeng 创办，9 月发布过手机端的 Edge0-35B。这次把规模推到 145B，目标是在一台笔记本或一张游戏显卡上跑接近云端水平的编程智能体。

架构亮点与底层机制

Edge0-145B 基于 Qwen3.8-Flash-Next，是潜空间稀疏 MoE。共 48 层，每层 512 个专家，每 token 激活 10 个路由专家和 1 个共享专家，合计约 10.12B 参数。每 64 个专家共用两块大矩阵，各专家只保留少量差异参数，专家池共 84.6B。另有 51.2B 的 n-gram 嵌入表以 fp8 存在 SSD 上按需读取，还有一个 1.26B 的草稿头做投机解码。运行时常用专家留在显存，约 40GB 专家库放在内存，显卡和 CPU 并行计算。模型从一开始就按 4 bit 训练，不是事后量化。

权威 Benchmark 与实测跑分对比

以下均为厂商口径，Edge0、Qwen、DeepSeek 和 Claude 的分数都来自 Edge0 内部评测，技术报告尚未发布。Terminal-Bench 2.1：Edge0-145B 86.52，Qwen3.8-Flash-Next 83.3，DeepSeek-V4-Flash-0731 82.7，Claude Opus 4.6（Max）78.2。DeepSWE 1.1：64.6 对 58.7 和 54.4。GPQA-Diamond 90.4，略低于 Claude 的 91.3；HLE 35.4，低于 Claude 的 40.0。六项平均 72.8，Qwen3.8-Flash-Next 为 71.7。速度看模型卡：RTX 5090 D 24GB 上 NVFP4 版智能体解码 98.3 tok/s，Apple M2 Ultra 跑 Q3_K 版对话解码 60.9 tok/s。

开发者实战落地与开箱指南

权重在 Hugging Face 的 Edge0 组织下，NVFP4 版 47.79GiB，Q3_K 版 40.81GiB。Edge0 Chat 0.2.0 目前只有 Windows 包，需要 RTX 20 系或更新的 NVIDIA 显卡、至少 16GiB 显存、20GiB 内存和 CUDA Toolkit 13。edge0-infer 提供 run、chat、bench、serve 命令，本地服务同时兼容 OpenAI 接口和 Anthropic 的 /v1/messages，可以直接接到现有编程智能体。商用前请读许可：模型不能转售，也不能拿来做商业模型服务或独立的商业编程助手，否则要另找 Edge0 授权。厂商跑分尚待第三方复现。