Anthropic Messages API 推出 message threads 公测:服务端暂存对话、每轮只发新消息,Claude Code 百万 token 请求首 token 延迟降约 35%
Anthropic 11 月 2 日(美国时间)在 Messages API 上线 message threads 公测(beta 头 message-threads-2026-08-12)。API 在服务端暂存对话,首轮发完整对话建线程,之后每轮只发新消息和上一条回复的 id。官方称 Claude Code 已默认对多数用户启用,500K–1M token 请求的首 token 延迟中位数降约 35%,长对话请求体中位数从约 800 KB 降到 1.8 KB。线程空闲 5 分钟过期,价格和限速不变。
核心要点速览
- 官方口径:Claude Code 中 500K–1M token 请求的首 token 延迟(TTFT)中位数降低约 35%。
- 长对话请求体中位数从约 800 KB 降到约 1.8 KB,每轮只上传新消息和 previous_message_id。
- 线程最后一次请求后 5 分钟过期,最迟 1 小时内删除;过期返回 404 thread_not_found,需重放完整对话。
- 价格和限速不变;不支持 Message Batches、token 计数、按需压缩,也不符合 ZDR 和 HIPAA。
- 可用于 Claude API、Claude Platform on AWS、Google Cloud(Anthropic 托管)和 Microsoft Foundry,SDK 提供 thread 助手。