OpenAI Developers(@OpenAIDevs)宣布 GPT-6 API 的 Prompt Caching 已改进:默认缓存命中率更高,更多输入 Token 可享受最高约 90% 的缓存输入折扣,有助于 Agent 跑得更快、更省。官方文档同步强调可用 Prompt Caching Dashboard 观察命中率,并用 Diagnostics 排查未命中。
核心要点速览 (Key Takeaways)
- ✓GPT-6 API Prompt Caching 默认命中率提升,面向长程 Agent 更省、更快。
- ✓缓存输入 Token 折扣最高约 90%。
- ✓可用 Dashboard 看命中率,并用 Diagnostics 排查 cache miss。

讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察