OpenAI API 上线 12 小时提示词缓存：GPT-5.6 及以后模型可把共享指令缓存半天，写入按 2.5 倍输入价、读取仍是 0.1 倍

核心背景与行业痛点

长时间运行的 Agent 往往每次都带着同一大段系统指令、工具定义和参考资料。OpenAI 在 GPT-5.6 及以后模型上的默认缓存只保证约 30 分钟，如果两次请求隔了一两个小时，前缀就得按 1.25 倍价格重新写入。OpenAI Developers 在帖子里点名了 dots 这类全天常驻的 Agent，这类场景受影响最大。

架构亮点与底层机制

新版在 Responses API 加入 prompt_cache_options.ttl，可选 "30m" 或 "12h"，也能在单个 prompt_cache_breakpoint 上单独设置。文档建议把全天不变的内容放在最前面并设 12 小时，把会话上下文设 30 分钟，一个请求最多 4 次写入。同一段 token 只按覆盖它的最长时长计一次费；从 30 分钟升级到 12 小时要重新写入，之前的写入不抵扣。

权威 Benchmark 与实测跑分对比

这是计费功能，官方未公布跑分。官方费率是：12 小时写入为普通输入价的 2.5 倍，30 分钟为 1.25 倍；读取多数模型 0.1 倍，GPT-6.1 Sol 为 0.05 倍。按此推算，同一前缀一天内每小时复用一次、共 6 次，30 分钟方案约 7.5 倍输入成本，12 小时方案约 3.0 倍；如果几分钟内就会复用，30 分钟更省。

开发者实战落地与开箱指南

把稳定指令放进 developer 消息的 input_text 块并打上 12 小时断点，变化的内容放在最后一个断点之后，避免为不会复用的内容付写入费。上线后看 cache_write_tokens_details 里的 ttl_12h_tokens 和 cached_tokens，确认真的省了钱。注意 12 小时只是最低保留时长，不保证每次命中；GPT-5.5 及以前的模型仍用 prompt_cache_retention。