11 月 8 日(北京时间 11 月 9 日早上),独立评测机构 Artificial Analysis 发布决策模型榜单 Decision Index 第二版。新版把头号指标换成同时看「答对没有」和「置信度准不准」的 Decision Score,私有数据占比从 v1 的 25% 提到 45%,新增 1,500 份私有文档的 AA-Paperclip 和测一致性的 AA-Symmetry。决策模型中 Nace AI 的 Drex Max v1.1 与 Fastino 的 GLiDE v1.2 同为 73 分,Drex Max 以小数微弱领先,Base Labs 的 Mammoth 27B 72 分。通用大模型 Claude Haiku 5.5 (Max) 77 分、GPT-6 Luna (Max) 76 分更高,但每百万任务成本分别为 6,240 和 1,530 美元,远高于 Drex Max 的 102 美元。

核心要点速览

  • ✓新指标(官方榜单):单题得分 = 50 ×(1 + c −(p − c)²),整体等于 50 ×(1 + 准确率 − Brier 分数),答对必高于 50、答错必低于 50,置信度在各自半区内拉开差距
  • ✓权重重排:AA-Paperclip 30%、AA-Symmetry 15%、EvalSafe-O*NET-AA 15%、AA-Omniscience-Decision v1.1 15%、HLE-MultiChoice v1.1 15%、NVIDIA When2Call 10%(v1 为 25%),饱和的 WildGuardTest 被移除
  • ✓决策模型前三(官方口径):Drex Max v1.1 73、GLiDE v1.2 73、Mammoth 27B 72;通用模型 Claude Haiku 5.5 (Max) 77、GPT-6 Luna (Max) 76
  • ✓成本差距超 60 倍:Celeris-1.1 Decision 每百万任务 14 美元、Drex Max v1.1 102 美元、Clef 859 美元;GLiDE v1.2 每道题重复计费输入,成本 780 美元,约为 Drex Max 的 8 倍
  • ✓速度:Celeris-1.1 Decision 单任务 56 毫秒、Elephant 9B 70 毫秒;GPT-6 Luna (Max) 11.34 秒、Claude Haiku 5.5 (Max) 32.65 秒
Artificial Analysis 发布 Decision Index v2:改用奖励「校准置信度」的 Decision Score,私有数据占比升至 45%,Drex Max v1.1 以 73 分险胜
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

「决策模型」是近两个月很热的一类小模型:它们不写长文,而是直接对分类、抽取、工具调用、是否放行这类问题给出选项和概率,常用在 Agent 流水线里做路由和审核。生产中真正关键的是:模型说「我 90% 确定」时到底靠不靠谱,因为系统会按置信度阈值决定自动执行还是转给人或更强的模型。Artificial Analysis 的 v1 主要看准确率,且 75% 用公开数据,容易被刷榜。11 月 8 日发布的 v2 就是针对这两点重做的。

架构亮点与底层机制

新的 Decision Score 对每道题打 0–100 分:答对高于 50、答错低于 50,置信度决定在半区内的位置,整体等于 50 ×(1 + 准确率 − Brier 分数),相当于把所有阈值下的收益取平均,不依赖某个固定阈值。新增的 AA-Paperclip(权重 30%)有 1,500 份私有文档(简历、收据、发票、论文),每份 5 个决策加 10 个抽取,15 题全对才算通过;AA-Symmetry(15%)用 120 道基题、440 个变体(换选项顺序、换标签、否定问法)测答案是否稳定。私有数据占比因此从 25% 升到 45%。

权威 Benchmark 与实测跑分对比

以下均为 Artificial Analysis 官方口径。决策模型中 Drex Max v1.1(Nace AI)与 GLiDE v1.2(Fastino Labs)同为 73 分,Mammoth 27B(Base Labs)72 分;但只看准确率 GLiDE 反而领先(60 比 58),说明校准拉开了名次。AA-Paperclip 上 Claude Haiku 5.5 (Max) 通过 92% 文档,Drex Max v1.1 单题答对 97%,但全对文档只有 63%。Mammoth 27B 在 AA-Symmetry 上 96 分,99% 的题跨变体选同一答案。

开发者实战落地与开箱指南

如果你在 Agent 里用小模型做路由或审核,可以先在榜单页打开「Include language models」对比成本与速度:Drex Max v1.1 每百万任务 102 美元、单任务约 275 毫秒,GPT-6 Luna (Max) 只高约 3 分,但成本约 15 倍、速度慢约 40 倍。注意计费方式:GLiDE v1.2 每道题都重复计费文档输入,标价只高 33%,总成本却是 Drex Max 的近 8 倍。依赖置信度阈值的系统,应优先看 Decision Score 而不是单纯准确率。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读Artificial Analysis 发布 AA-Omniscience v1.1:题库精简到 3,000 题并公开 300 题校准集,Gemini 4 Carbon 以 54 分领跑知识与幻觉榜
立即阅读→