Anthropic 平台工程负责人 Katelyn Lesse 在 Latent Space 播客(10 月 27 日上线)中说,上周已全量上线用 Rust 写的 Messages API:原系统是吃 CPU 的 Python 单体,团队起步时「一个 Rust 开发都没有」,人负责系统设计和验证,Claude 写实现,再用影子流量比对新旧两套输出。她给出的粗略数字是 CPU 少约 40–50%,首 token 延迟改善约 10–20%。这段片段被 Somi(@somi_ai)剪出后在 X 上获得 1,000+ 点赞、约 14 万次浏览,swyx 等人转引,讨论焦点是「别搞大重写」这条老经验是否已经过时。以下观点属于 X 讨论,数字为 Lesse 口头估算,Anthropic 尚未发布书面工程报告。

核心要点速览

  • ✓一手来源是 Latent Space 播客节目《How Anthropic ships Claude with Claude》中 Katelyn Lesse 的口述,「56:05 Rebuilding the Messages API in Rust」一段
  • ✓Lesse 说迁移起因是用量暴涨后 CPU 成了瓶颈,CPU 需要提前做容量规划,Anthropic 内部研究沙箱、产品沙箱、CI 等都在争同一池 CPU
  • ✓做法是一次性 fork 整个 API 的 Rust 版本,跑影子流量对比 Python 与 Rust 的输出一致后逐步切换,刻意不在移植中加新功能
  • ✓她估算 CPU 节省约 40–50%,首 token 延迟改善约 10–20%,长时任务改善更大;这些是播客中的口头粗略数字,非正式基准
  • ✓X 上 Somi 称「别搞大重写」的建议已死,swyx 说 Anthropic「把整个后端 vibecode 成了 Rust」;后者是夸张说法,Lesse 只谈到 Messages API
X 热议:Anthropic 平台工程负责人称团队起步时没有 Rust 工程师,由 Claude 写代码把 Messages API 整体移植到 Rust,CPU 约省 40–50%
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

这是一条 X 热议条目,不是 Anthropic 官方公告。起点是 Latent Space 播客 10 月 27 日上线的一期节目,嘉宾是 Anthropic 平台工程负责人 Katelyn Lesse 和产品负责人 Angela Jiang。Lesse 在节目里说,她一年多前加入时 Messages API 还是一个跑在单个 GCP 区域的 Python 单体;随着用量暴涨,CPU 变成和加速卡一样紧缺的资源,过去可以按需扩容,现在必须提前做容量规划。

架构亮点与底层机制

按 Lesse 的说法,团队上周已经全量上线用 Rust 写的 Messages API。当时组里「一个 Rust 开发都没有」,分工是人负责分布式系统设计和验收,Claude 写实现代码,同时帮工程师学习和推敲方案。具体做法是一次性 fork 整个 API 的 Rust 版本,把影子流量同时打到 Python 和 Rust 两套系统上,比对输出一致后再逐步切换。她说这次是纯移植,刻意不加新功能,另由静态分析提醒其他团队在 Python 侧加功能时同步考虑 Rust 侧;下一步才会做更偏用户可见的重构。

权威 Benchmark 与实测跑分对比

节目中唯一的数字是 Lesse 的口头粗略估算:CPU 节省大约 40–50%,首 token 延迟改善大约 10–20%,长时任务改善更大。Anthropic 没有发布书面工程报告或正式基准,本文不做其他换算。

开发者实战落地与开箱指南

在 X 上,Somi(@somi_ai)剪出的片段获得 1,000+ 点赞、约 14 万次浏览,观点是「别搞大重写」的老经验已经不成立;swyx 转引时说 Anthropic「把整个后端 vibecode 成了 Rust」,这是夸张说法,Lesse 只谈到 Messages API。对想用 AI 重写老服务的团队,这段访谈可借鉴的是:重点在方案设计和验证,影子流量比对加功能开关逐步切换,移植期冻结新功能范围。是否适用于自己的系统,仍要看测试覆盖和流量对比能力。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读X 热议:Anthropic 工程经理 Felix Rieseberg 宣布团队取消编程面试,称「饥饿感胜过资历」,帖子破百万浏览
立即阅读→