Baseten 开源两款决策模型 mammoth-1（27B）与 elephant-1（9B）：不生成文本直接输出选项概率，Jev 决策榜第一

核心背景与行业痛点

工单分流、垃圾邮件识别、提示词护栏、在大小模型之间做路由，这类任务只需要从几个选项里挑一个答案，但很多团队仍在用生成式 LLM 输出一段文字再去解析，成本高、延迟大，而且拿不到可靠的置信度。「决策模型」正是为此出现的新品类：它不生成文本，只对每个预设选项输出概率。10 月 21 日，推理平台 Baseten 发布其内部研究团队 Base Labs 训练的两款开源决策模型 mammoth-1（27B）与 elephant-1（9B）。此前本站报道过的 Perplexity pplx-decider 系列也属于同一赛道。

架构亮点与底层机制

两款模型分别由 Qwen3.5-27B 与 Qwen3.5-9B 全量微调而来，训练数据为 621 万条决策样本，混合公开数据集与合成数据，覆盖核心决策能力、安全与「不知道就弃答」、评审与专家领域。模型支持三类问题：多选（choice）、是否（boolean）和有序打分（score）。块状双向注意力让每个问题能「看到」自己的候选项，共享前缀缓存让同一份输入在多个问题间复用，一次前向传播即可返回全部问题的概率分布。官方称相比推理模型最高可快约 10 倍（官方口径）。

权威 Benchmark 与实测跑分对比

以下均为官方/厂商口径：mammoth-1 在 Jev Decision Index 0.4 上得分 71.24，在 208 个决策模型中排名第一；在 Artificial Analysis Decision Index 上得分 65.9。elephant-1 在 Jev 上得分 62.6，总榜并列第 8，是 9B 级最佳；在 Artificial Analysis Decision Index 上得分 65.2，与此前最佳的 d1-ultra 并列第一。第三方独立实测目前官方未公布。

开发者实战落地与开箱指南

权重已上架 Hugging Face（baselabs/mammoth-1、baselabs/elephant-1），模型页标注 MIT 许可。Baseten Model APIs 免费开放一周，截止时间为太平洋时间 10 月 27 日 23:59（约新加坡时间 10 月 28 日 14:59），默认零数据保留。调用走 /v1/systemone 接口，传入 state 和带候选项的 questions 即可拿到每个选项的概率。建议按官方思路，用含困难样本的自有数据评估准确率与置信度校准，再设置自动通过与转人工的阈值。需要更多常识选 mammoth-1，追求速度选 elephant-1。