AI 编程实时动态与要闻

Anthropic Messages API 推出 message threads 公测:服务端暂存对话、每轮只发新消息,Claude Code 百万 token 请求首 token 延迟降约 35%

Anthropic 11 月 2 日(美国时间)在 Messages API 上线 message threads 公测(beta 头 message-threads-2026-08-12)。API 在服务端暂存对话,首轮发完整对话建线程,之后每轮只发新消息和上一条回复的 id。官方称 Claude Code 已默认对多数用户启用,500K–1M token 请求的首 token 延迟中位数降约 35%,长对话请求体中位数从约 800 KB 降到 1.8 KB。线程空闲 5 分钟过期,价格和限速不变。

Anthropic Messages API 推出 message threads 公测:服务端暂存对话、每轮只发新消息,Claude Code 百万 token 请求首 token 延迟降约 35%

核心要点速览

  • 官方口径:Claude Code 中 500K–1M token 请求的首 token 延迟(TTFT)中位数降低约 35%。
  • 长对话请求体中位数从约 800 KB 降到约 1.8 KB,每轮只上传新消息和 previous_message_id。
  • 线程最后一次请求后 5 分钟过期,最迟 1 小时内删除;过期返回 404 thread_not_found,需重放完整对话。
  • 价格和限速不变;不支持 Message Batches、token 计数、按需压缩,也不符合 ZDR 和 HIPAA。
  • 可用于 Claude API、Claude Platform on AWS、Google Cloud(Anthropic 托管)和 Microsoft Foundry,SDK 提供 thread 助手。
阅读全文
关联模型 / 智能体 / 厂商:

X 热议:Anthropic 平台工程负责人称团队起步时没有 Rust 工程师,由 Claude 写代码把 Messages API 整体移植到 Rust,CPU 约省 40–50%

Anthropic 平台工程负责人 Katelyn Lesse 在 Latent Space 播客(10 月 27 日上线)中说,上周已全量上线用 Rust 写的 Messages API:原系统是吃 CPU 的 Python 单体,团队起步时「一个 Rust 开发都没有」,人负责系统设计和验证,Claude 写实现,再用影子流量比对新旧两套输出。她给出的粗略数字是 CPU 少约 40–50%,首 token 延迟改善约 10–20%。这段片段被 Somi(@somi_ai)剪出后在 X 上获得 1,000+ 点赞、约 14 万次浏览,swyx 等人转引,讨论焦点是「别搞大重写」这条老经验是否已经过时。以下观点属于 X 讨论,数字为 Lesse 口头估算,Anthropic 尚未发布书面工程报告。

X 热议:Anthropic 平台工程负责人称团队起步时没有 Rust 工程师,由 Claude 写代码把 Messages API 整体移植到 Rust,CPU 约省 40–50%

核心要点速览

  • 一手来源是 Latent Space 播客节目《How Anthropic ships Claude with Claude》中 Katelyn Lesse 的口述,「56:05 Rebuilding the Messages API in Rust」一段
  • Lesse 说迁移起因是用量暴涨后 CPU 成了瓶颈,CPU 需要提前做容量规划,Anthropic 内部研究沙箱、产品沙箱、CI 等都在争同一池 CPU
  • 做法是一次性 fork 整个 API 的 Rust 版本,跑影子流量对比 Python 与 Rust 的输出一致后逐步切换,刻意不在移植中加新功能
  • 她估算 CPU 节省约 40–50%,首 token 延迟改善约 10–20%,长时任务改善更大;这些是播客中的口头粗略数字,非正式基准
  • X 上 Somi 称「别搞大重写」的建议已死,swyx 说 Anthropic「把整个后端 vibecode 成了 Rust」;后者是夸张说法,Lesse 只谈到 Messages API
阅读全文
关联模型 / 智能体 / 厂商:

Claude Platform 开放 OpenTelemetry 追踪公测:Messages API、Managed Agents 与 SDK 的每次模型调用和工具使用可直送 Datadog、Langfuse 等可观测平台

Anthropic 于 2026-10-14 宣布 Claude Platform 的 OpenTelemetry 追踪进入公测:Messages API 与 Claude Managed Agents 的请求可在 Claude Console 添加「遥测目的地」后由服务端直接导出,无需改代码;Claude SDK 则在应用内导出请求与工具执行的 span。span 遵循 OpenTelemetry gen_ai 语义约定,默认只带时长、状态、token 数、模型与工具名等元数据,也可切换为「完整内容」导出提示词与回复。

Claude Platform 开放 OpenTelemetry 追踪公测:Messages API、Managed Agents 与 SDK 的每次模型调用和工具使用可直送 Datadog、Langfuse 等可观测平台

核心要点速览

  • 两条接入路径:Console/Admin API 配置服务端目的地(Messages API + Managed Agents,零代码),或在 Claude SDK 内导出客户端 span(官方总览)
  • 目的地要求 OTLP/HTTP + protobuf、HTTPS 443 端口;Admin API 使用 anthropic-beta: telemetry-destinations-2026-08-11 头(API 文档)
  • SDK 覆盖 Python、TypeScript、Go、Java(需 anthropic-java ≥ 2.72.0)等,支持 Claude API、AWS、Bedrock、Google Cloud、Microsoft Foundry,均为 beta(SDK 文档)
  • 两种内容模式:仅元数据或完整内容;零数据保留(ZDR)客户的 Messages API 请求仍可导出完整内容,内容仅在内存中保留到送达;Managed Agents 不属于 ZDR
  • 官方提醒公测期 span 名称与 SDK 选项可能出现破坏性变更,建议锁定 SDK 版本
阅读全文

Anthropic 开源 Claude 商务智能体蓝图:购物与商家 Agent,含 Claude Code 插件

ClaudeDevs(@ClaudeDevs)宣布开源 Claude Commerce Agents:面向购物与商家的参考蓝图,覆盖零售、出行、电信与娱乐等垂直场景。仓库 github.com/anthropics/commerce-agents(Apache 2.0)含 Messages API / Claude Agent SDK / Managed Agents 三种实现,以及把蓝图接到自有目录的 Claude Code 插件;官方标明这是可 fork 的参考实现,而非带 SLA 的受支持产品。

核心要点速览

  • 开源购物智能体与商家智能体蓝图,覆盖零售、出行、电信、娱乐参考实现。
  • 可通过 Messages API、Claude Agent SDK 或 Managed Agents 部署,并附 Claude Code 插件。
  • 官方明确这是可 fork 的参考实现(Apache 2.0),不作为带 SLA 的受支持产品维护。
阅读全文
AD赞助内容

Anthropic 收紧 Messages API:Fable 5.1 新账号禁止改 thinking 前上下文

ClaudeDevs 表示,为提高蒸馏攻击(抽取思维链)难度,Messages API 将禁止在多轮对话中编辑 thinking 块之前的上下文。该限制先只作用于使用 Fable 5.1 的新账号(蒸馏常依赖大量虚假新号),后续计划推广到未来模型的所有用户;团队称长期仍会寻找更稳妥的方案。

核心要点速览

  • Messages API 不再允许在 thinking 块之前编辑上下文。
  • 先对 Fable 5.1 新账号生效,后续拟覆盖未来模型的全部用户。
  • 目标是抬高蒸馏/抽取思维链攻击成本,集成方需留意多轮上下文编辑行为。
阅读全文