独立评测机构 Artificial Analysis 于 11 月 4 日(UTC 17:34)在 X 上宣布新版 API 性能基准:头号指标从输出速度改为 Time per Task,即完成一道 Intelligence Index 任务所需时间(每题输出 tokens ÷ 端到端输出速度)。新版覆盖约 1,000 个 serverless 端点,速度改为从发出请求算到最后一个 token,并加入多轮 Agent 编码与知识工作负载。官方数据:GPT-6 Astra 满档 51 tokens/s 但约 17 分钟完成一题,Claude Opus 5.5(max)约 26 分钟,Gemini 4 Carbon(high)约 29 分钟。
核心要点速览
- ✓Time per Task = 每道 Intelligence Index 任务的输出 tokens ÷ 端到端输出速度;逐 token 很快但话多的模型,可能比慢但省 token 的模型更晚完成任务。
- ✓端到端输出速度从发出请求算到收到最后一个 token,包含首 token 前的等待(prefill 与隐藏推理);输出 token 改用各家 API 自报数量,不再用 o200k_base 分词器估算。
- ✓GPT-6 Astra(max)51 tokens/s,每题约 5 万输出 tokens、约 17 分钟;Claude Opus 5.5(max,111 tokens/s)约 26 分钟,Gemini 4 Carbon(high,71 tokens/s)约 29 分钟,后两者每题约 12–17 万 tokens。
- ✓按各家 API 默认档(三者均为 medium),GPT-6 Astra、GPT-6.1 Sol、Opus 5.5 的单任务耗时降约 3–5 倍、成本降约 2–4 倍,Intelligence Index 低约 5–11 分;Opus 5.5 从约 26 分钟/10.04 美元降到约 6.8 分钟/2.45 美元。
- ✓官方方法论页显示这是 3.0.0 版(10 月 30 日),测试频率改为每 6 小时一次,并新增端点错误率指标。
开发者 3 秒速决决策指标
把技术选型换算成你的开发预算
40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟
相关资源与官方项目出处
免代理直达深度技术解析与实战评估
核心背景与行业痛点
过去比较大模型 API 性能,大家主要看每秒输出 tokens。但随着工作负载越来越偏 Agent,开发者真正关心的是一件事要多久做完。Artificial Analysis 在 X 上发帖称,逐 token 快但输出冗长的模型,完成任务可能反而比慢一些、用 token 更少的模型更久,因此把头号指标改为 Time per Task。
架构亮点与底层机制
据官方帖子和方法论页(3.0.0 版,10 月 30 日),新版有四项变化:一是 Time per Task 由每题输出 tokens 除以端到端输出速度得出;二是速度从发出请求算到最后一个 token,把 prefill 和隐藏推理的等待也算进去,token 数改用各家 API 自报;三是在短、文档级、长上下文请求之外加入多轮编码与知识工作 Agent 会话,取过去 5 天平均;四是同时测各家 API 默认档和最高档。
权威 Benchmark 与实测跑分对比
官方数据:在 Intelligence Index 约 45–55 区间,Pareto 前沿主要由 GPT-6 Astra 与 GPT-6.1 Sol 占据。GPT-6 Astra(max)仅 51 tokens/s,但每题约 5 万 tokens、约 17 分钟;Claude Opus 5.5(max)111 tokens/s、约 26 分钟;Gemini 4 Carbon(high)71 tokens/s、约 29 分钟。默认 medium 档能把耗时降约 3–5 倍、成本降约 2–4 倍,代价是指数低约 5–11 分。
开发者实战落地与开箱指南
选模型做 Agent 时,可以直接看 Artificial Analysis 的 Time per Task 与 Cost per Task,而不只看 tokens/s;多数场景先用各家默认档,必要时再开最高档。官方也提醒,只追求解码速度的端点(如低 batch 排队或憋到最后一次性返回)在新口径下下降最多。以上均为 Artificial Analysis 自有测量。
即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察