独立开发者 Nandakishor M 以 Apache 2.0 开源 Vega(pip 包 vegaml):冻结的 Qwen3.5-0.8B(另有 4B)只负责读取,57 MB 的可训练引擎把答案建模成势能“山谷”,小球带摩擦滚落后停在哪个谷就是答案,并给出校准概率、保形答案集与弃答标记。支持 73,728 token 上下文与图像输入。作者自测在钓鱼邮件识别等任务上胜过托管的 Jev 1.13.0,但也承认在重排与多步推理上落后。

核心要点速览

  • ✓体积:0.8B 版引擎 14.3M 参数 / 57 MB,任务适配器仅 0.84M 参数;4B 版引擎 124 MB(GitHub README)
  • ✓作者自测 typed-decisions 测试集(2,050 条):0.8B 加适配器 0.763、4B 0.803,单次决策 22 ms / 28 ms
  • ✓钓鱼邮件 800 封:Vega 准确率 75.4、识别 252/400,Jev 1.13.0 为 61.9、99/400(作者口径,McNemar p=3e-11)
  • ✓中位延迟 267 ms(T4 fp16)对比托管 Jev 591 ms;MMMU-Pro 仅 0.240,作者明确不适合大学级推理
  • ✓pip install vegaml,HF 模型卡与在线 Space可直接试用
开源决策模型 Vega:冻结 Qwen3.5-0.8B + 57 MB 物理引擎,“滚小球”给出带校准概率的类型化答案
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

本周“决策模型”成了新赛道:OpenAI Decisions API 公测、微软 Decision-1、TypeSafe AI 的 Jev 拿到大额融资。但托管 API 意味着数据出域、按次计费和网络延迟。开发者 Nandakishor M 在三周前开源 Laya 之后,10 月 10 日再开源 Vega,目标是在本地硬件上跑出可直接被代码消费的“类型化决策”。

架构亮点与底层机制

边界非常硬:冻结的 Qwen3.5-0.8B 只读不训,并用 SHA-256 锁定权重;只读第 13 和 19 层,之后的层和 LM head 都不运行,所以整个路径不会生成任何 token。观察、问题和候选答案写进同一段提示,一次前向后对不同片段做平均池化,得到 5 个向量。57 MB 的引擎把每个答案建成一个势能山谷,用问题向量放置并推动小球,在 64 维空间里带摩擦滚动 12 步,最后停在哪个谷就是答案。输出包括校准概率、保形答案集和弃答标记。详见作者博客。

权威 Benchmark 与实测跑分对比

以下均为作者自测口径:800 封钓鱼邮件准确率 75.4、识别 252/400,同题 Jev 1.13.0 为 61.9、99/400;ag-news 0.955 对 0.806;中位延迟 267 ms(T4)对 591 ms。作者也写明 Jev 在重排、多步推理等多数其他任务上领先,MMMU-Pro 上 Vega 只有 0.240。

开发者实战落地与开箱指南

pip install vegaml 后用 vegaml.load() 加载 0.8B,用 decide() 一次读取同时回答多个 choice、score 或 boolean 问题。有 6 条以上标注时可以用 mode="ttt" 做测试时训练。仓库附带 Kaggle 双 T4 微调笔记本。适合邮件分流、提示注入检测、工单路由这类数据不能出本机的场景。可以先在 HF Space 在线试用。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。