Unsloth 于 2026-09-28 发布 v0.1.900-beta(PyPI unsloth 2026.9.12):Desktop 可本地运行 Laya 等 Decision 模型(Jev 兼容 /v1/systemone),新增 Skills 创建/编辑/删除与 Library 文档查看器(PDF/Word/Excel/PPT);Apple Silicon 侧补齐批服务、结构化输出与 TurboQuant KV;图像/视频管线宣称 LTX-2.3 片段约 4.5×、VAE 解码 1.7–6.3×,MiniMax-H3 首渲最高快约 1 分钟且峰值显存降 25–29 GiB。

核心要点速览 (Key Takeaways)

  • ✓发版:v0.1.900-beta(2026-09-28);对比 v0.1.815-beta;PyPI unsloth 2026.9.12
  • ✓Decision:本地 Laya/Jev,Settings > API 开启 Decision API,TypeSafe 走 /v1/systemone;Apple Silicon 可选 MLX(#11603)
  • ✓媒体加速:LTX-2.3 片段约 4.5×;VAE 解码 1.7–6.3×;MiniMax-H3 首渲最高快约 1 分钟,峰值显存降 25–29 GiB(A100/B200/RTX PRO 6000)
  • ✓产品面:Skills 编辑器 + Library(PDF/Word/Excel/PPT);ModelScope 下载通道;Apple Silicon 批服务 / response_format 语法约束 / TurboQuant KV
  • ✓文档入口:docs.unsloth.ai / 仓库
🧭

阅读完核心要点?进一步了解模型实力与实际开销

7 大权威镜像天梯跑分与 29+ 款主流编程套餐横向比价测算

🔬

深度技术解析与实战评估

核心背景与行业痛点

本地微调与 Studio 推理栈要同时覆盖「决策型小模型、Agent Skills、多模态生成」。痛点是:Jev/TypeSafe 决策调用常被绑到云端;Skills 只能在外部编辑器维护;长文档与 Office 附件无法在同一工作区预览;Apple Silicon 批服务与 KV 量化能力落后于 CUDA 管线;视频生成首渲与 VAE 解码仍是显存与时延瓶颈。

架构亮点与底层机制

v0.1.900-beta 把 Decision API 做进 Desktop:可本地加载 Laya 等决策模型,经 Jev 兼容的 /v1/systemone 对接 TypeSafe SDK,GPU 路径可走 MLX(#11603)。Skills 菜单支持创建/编辑/删除;Library 统一管理对话与 PDF/Word/Excel/PPT 预览,并可选 ModelScope 下载。Apple Silicon 增加批服务、response_format 语法约束输出与 TurboQuant KV(含滑动窗口模型如 Gemma 4)。训练侧加速 block-FP8 LoRA,并支持对 compressed-tensors W8A8 检查点挂 LoRA;FastModel 可加载 Voxtral 与 Qwen2-Audio。

权威 Benchmark 与实测跑分对比

发行说明给出官方实测口径(非第三方榜):LTX-2.3 片段约 4.5×(蒸馏采样 + 编译修复 + 托管 FP8 权重);图像/视频 VAE 解码 1.7–6.3×;MiniMax-H3 首次渲染最高快约 1 分钟,在 A100 / B200 / RTX PRO 6000 上峰值显存降 25–29 GiB。本版未附 SWE-bench 或公开对比表,请在目标 GPU/MLX 机器复现上述工作流后再写入容量规划。

开发者实战落地与开箱指南

升级到 v0.1.900-beta 或 pip install -U unsloth(PyPI 2026.9.12)。在 Desktop 打开 Settings > API 启用 Decision API 并选择 CPU/GPU;用 Skills 编辑器维护 Claude 规范技能;大文件走 Library 预览。完整说明见 docs.unsloth.ai 与 发行页。注意:标签含 beta,生产前请锁定版本并跑回归。