Anthropic 宣布对其 API 上的 Prompt Caching 生存时间(TTL)管理机制进行升级。当智能体与 Claude 保持高频交互时,底层缓存将自动滑动续期,无需重新写入未变更的项目文件。该项优化使长达数小时的复杂软件工程交互总体 Token 写入费用降低 40%,同时首字生成延迟压降至 300ms 以内。
核心要点速览
- ✓连续交互中的活跃上下文缓存自动延期,避免每 5 分钟超时重新支付全额写入费用。
- ✓大型项目长会话交互总成本平均降低 40%,显著改善复杂代码重构体验。
- ✓首字生成延迟(TTFT)维持在 300ms 以内,支持高吞吐并发工具调用。
开发者 3 秒速决决策指标
把技术选型换算成你的开发预算
40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟
即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察