a16z 10 月 30 日发布的 Charts of the Week(作者 Moses Sternstein)讨论了「Rack Spread」:GPU 租金在涨,token 价格在跌。a16z 官方 X 账号 10 月 31 日总结:5 月以来 token 均价下降 67%,token 花费增长超过 120%;按文章的粗算,用 Ramp 数据得出约 122%,用 Ornn 混合单价乘 OpenRouter 用量得出约 160%。另一条帖子给出 7 月中以来 B300 租金涨 106%、B200 涨 66%、H100 涨 17%。a16z 同时强调这些指数样本小且有偏差,不能代表真实总需求。
核心要点速览
- ✓价格与花费:5 月以来 token 均价降 67%,token 花费涨超 120%(a16z 官方 X 帖,a16z 口径)
- ✓两种粗算:Ramp 的 token 花费数据约 +122%;Ornn 混合单价 × OpenRouter 用量约 +160%(Charts of the Week,作者自称是粗算而非严谨方法)
- ✓GPU 租金:7 月中以来 B300 +106%、B200 +66%、H100 +17%,同期 token 均价 -58%(a16z 帖子)
- ✓人均 AI 支出:亚特兰大联储调查的均值超过每员工 1,000 美元,Ramp 的中位数是每月 15.70 美元(每年 188 美元)
- ✓热度:两条帖子约 371 和 492 赞、3.8 万和 9.6 万浏览(截至 18:15 SGT)

开发者 3 秒速决决策指标
把技术选型换算成你的开发预算
40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟
相关资源与官方项目出处
免代理直达深度技术解析与实战评估
核心背景与行业痛点
今年 7 月前后,市场上流行一张图:GPU 租金在涨,token 价格在跌。有人借用石油行业的「裂解价差」把它叫作「Crunch Spread」,a16z 编辑 Alex Danco 改称「Rack Spread」。看空的说法是:token 越来越像大宗商品,模型层利润被压缩,算力投入也难回本。a16z 10 月 30 日的 Charts of the Week 专门回应了这个说法。
架构亮点与底层机制
文章的核心论点是:石油和成品油受体积约束,GPU 和 token 之间没有这种固定换算。token 单价下降时,用量可以涨得更快,所以总花费反而上升。a16z 官方 X 账号 10 月 31 日的总结是:5 月以来 token 均价降 67%,花费涨超 120%。
权威 Benchmark 与实测跑分对比
这条不是模型发布,没有跑分。文中两种粗算:Ramp 数据约 +122%,Ornn 混合单价乘 OpenRouter 用量约 +160%。GPU 租金方面,7 月中以来 B300 涨 106%、B200 涨 66%、H100 涨 17%。作者自己提醒,Ramp、OpenRouter、Silicon Data、Ornn 的数据都来自愿意暴露用量的小样本,大企业基本不在其中,而这些用户往往最在意省钱、最会路由到便宜模型。以上均为 a16z 口径。
开发者实战落地与开箱指南
对团队预算的启示是:单价下降不等于账单下降,Agent 多步任务会显著放大 token 用量。建议按任务统计 token 消耗,而不只看单价;给长任务设上限,并评估模型路由和缓存。读原文时注意,这些数字是方向性参考,不代表全行业真实总量。
即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察