Anthropic 平台工程负责人 Katelyn Lesse 在 Latent Space 播客(10 月 27 日上线)中说,上周已全量上线用 Rust 写的 Messages API:原系统是吃 CPU 的 Python 单体,团队起步时「一个 Rust 开发都没有」,人负责系统设计和验证,Claude 写实现,再用影子流量比对新旧两套输出。她给出的粗略数字是 CPU 少约 40–50%,首 token 延迟改善约 10–20%。这段片段被 Somi(@somi_ai)剪出后在 X 上获得 1,000+ 点赞、约 14 万次浏览,swyx 等人转引,讨论焦点是「别搞大重写」这条老经验是否已经过时。以下观点属于 X 讨论,数字为 Lesse 口头估算,Anthropic 尚未发布书面工程报告。
核心要点速览
- ✓一手来源是 Latent Space 播客节目《How Anthropic ships Claude with Claude》中 Katelyn Lesse 的口述,「56:05 Rebuilding the Messages API in Rust」一段
- ✓Lesse 说迁移起因是用量暴涨后 CPU 成了瓶颈,CPU 需要提前做容量规划,Anthropic 内部研究沙箱、产品沙箱、CI 等都在争同一池 CPU
- ✓做法是一次性 fork 整个 API 的 Rust 版本,跑影子流量对比 Python 与 Rust 的输出一致后逐步切换,刻意不在移植中加新功能
- ✓她估算 CPU 节省约 40–50%,首 token 延迟改善约 10–20%,长时任务改善更大;这些是播客中的口头粗略数字,非正式基准
- ✓X 上 Somi 称「别搞大重写」的建议已死,swyx 说 Anthropic「把整个后端 vibecode 成了 Rust」;后者是夸张说法,Lesse 只谈到 Messages API

开发者 3 秒速决决策指标
把技术选型换算成你的开发预算
40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟
相关资源与官方项目出处
免代理直达深度技术解析与实战评估
核心背景与行业痛点
这是一条 X 热议条目,不是 Anthropic 官方公告。起点是 Latent Space 播客 10 月 27 日上线的一期节目,嘉宾是 Anthropic 平台工程负责人 Katelyn Lesse 和产品负责人 Angela Jiang。Lesse 在节目里说,她一年多前加入时 Messages API 还是一个跑在单个 GCP 区域的 Python 单体;随着用量暴涨,CPU 变成和加速卡一样紧缺的资源,过去可以按需扩容,现在必须提前做容量规划。
架构亮点与底层机制
按 Lesse 的说法,团队上周已经全量上线用 Rust 写的 Messages API。当时组里「一个 Rust 开发都没有」,分工是人负责分布式系统设计和验收,Claude 写实现代码,同时帮工程师学习和推敲方案。具体做法是一次性 fork 整个 API 的 Rust 版本,把影子流量同时打到 Python 和 Rust 两套系统上,比对输出一致后再逐步切换。她说这次是纯移植,刻意不加新功能,另由静态分析提醒其他团队在 Python 侧加功能时同步考虑 Rust 侧;下一步才会做更偏用户可见的重构。
权威 Benchmark 与实测跑分对比
节目中唯一的数字是 Lesse 的口头粗略估算:CPU 节省大约 40–50%,首 token 延迟改善大约 10–20%,长时任务改善更大。Anthropic 没有发布书面工程报告或正式基准,本文不做其他换算。
开发者实战落地与开箱指南
在 X 上,Somi(@somi_ai)剪出的片段获得 1,000+ 点赞、约 14 万次浏览,观点是「别搞大重写」的老经验已经不成立;swyx 转引时说 Anthropic「把整个后端 vibecode 成了 Rust」,这是夸张说法,Lesse 只谈到 Messages API。对想用 AI 重写老服务的团队,这段访谈可借鉴的是:重点在方案设计和验证,影子流量比对加功能开关逐步切换,移植期冻结新功能范围。是否适用于自己的系统,仍要看测试覆盖和流量对比能力。
即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察