Simplex AI 创始人、DeepSeek 最早期核心成员张博(Tony Zhang)11 月 19 日在 X 上宣布开源个人 Agent Linger。它在用户自己的 Mac/PC 上本地运行,配套 MoE 推理引擎 PolyStrata 把常用专家放 GPU、次常用放内存、冷门放 SSD,官方实验室数据称 125B 的 Qwen3.8-Flash-Next 在 12GB RTX 3060 + 64GB 内存上写出 45.5 tok/s,本地推理零 token 费用。

核心要点速览

  • ✓发布:张博(Simplex AI 创始人,X 简介称曾为 DeepSeek 最早期核心成员)11 月 19 日在 X 上宣布开源 Linger,原帖约 76 万次浏览
  • ✓机制:PolyStrata 按专家使用频率分层存放 MoE 权重(GPU / 内存 / SSD),常被选中的专家会上移到 GPU,从而用小显存跑大模型
  • ✓数据(官方实验室):Qwen3.8-Flash-Next 125B 在 12GB RTX 3060 上 45.5 tok/s、RTX 5090 上 179 tok/s;8GB 笔记本 RTX 4070 为模拟测试 38.1 tok/s
  • ✓功能:Model Autopilot 一键检测硬件并推荐、安装最聪明的可用模型;Agent 可操作本机桌面应用和已登录的 Chrome,发邮件等操作先等用户批准
  • ✓平台与许可:提供 macOS(Apple silicon)、Windows x64、Linux x64 安装包;许可证为修改版 Apache 2.0,对外提供托管服务需商业授权
前 DeepSeek 早期核心成员张博的 Simplex AI 开源本地个人 Agent Linger:PolyStrata 引擎让 125B 的 Qwen3.8-Flash-Next 在 12GB 显卡上跑出 45.5 tok/s
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

大模型多按 token 租用。Simplex AI 创始人张博(X 简介称曾是 DeepSeek 最早期核心成员)11 月 19 日在 X 上宣布开源 Linger:住在你电脑上的个人 Agent,本地推理、零 token 费。

架构亮点与底层机制

MoE 引擎 PolyStrata 把常用专家放 GPU、偶尔用的放内存、冷门放 SSD,并按调用频率动态上移。Model Autopilot 检测硬件,自动安装能跑 64K 上下文的最强模型。

权威 Benchmark 与实测跑分对比

官方实验室数据:125B 的 Qwen3.8-Flash-Next(2-bit 约 39GB)在 12GB RTX 3060 + 64GB 内存上 45.5 tok/s,RTX 5090 上 179 tok/s;8GB 的 38.1 tok/s 为模拟测试。暂无第三方复现。

开发者实战落地与开箱指南

GitHub Releases 提供 macOS(Apple silicon)、Windows、Linux 安装包,文档见 docs.heylinger.com;macOS 包未签名需手动放行。许可证为修改版 Apache 2.0,对外托管服务需商业授权。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读llama.cpp 与 ggml 正式发布 v1.0.0:3.5 年来首个大版本,C API 改用语义化版本、破坏性变更必升主版本;同时移除 35 个废弃函数,新增 FP8 KV 缓存、MoE 专家缓存与 /v1/audio/speech
立即阅读→