知识卡片:OpenAI 推出 12 小时 API 缓存,Codex 与 Work 缓存永久保留
一句话结论
OpenAI 为 API 增加最长 12 小时的提示缓存选项(对 GPT-5.6 及以上模型生效),同时宣布 Codex 和 Work 登录用户的缓存永久保留;但官方文档明确 12 小时只是“按缓存命中计费”的最短生命周期,不保证复用 KV 张量或降低延迟。
事件概述或研究问题
据腾讯研究院 AI 速递(20261022)转述,ChatGPT 和 Codex 负责人 Tibo 宣布 OpenAI API 提供 12 小时缓存选项,Codex 与 Work 登录用户的缓存将永久保留。该速递同时提到,DeepSeek 开源推理框架的缓存保留目标达 3 天。本条关注的问题是:长时效缓存对 API 成本结构与开发者使用方式意味着什么,以及“缓存保留”与实际性能收益之间的差距。
方法/产品要点
- 适用模型:该选项对 GPT-5.6 及以上模型生效。
- 时长选项:可在默认 30 分钟与 12 小时之间选择。
- 价格变化:选 12 小时后,缓存写入价格从未缓存输入的 1.25 倍升至 2.5 倍;缓存读取价格不变。
- 官方口径:文档称 12 小时仅为按缓存命中计费的最短生命周期,不保证复用 KV 张量,也不保证降低延迟。
- 账号侧政策:Codex 和 Work 登录用户的缓存永久保留。
- 对照信息:DeepSeek 开源推理框架的缓存保留目标为 3 天。
主要结果或产业意义
把缓存从“短时命中”拉长到“半天级”,实质是把上下文复用变成一项可按小时计价的商品:写入更贵(2.5 倍),读取不变,鼓励开发者在长会话、长文档、重复系统提示等场景中权衡“多付写入费换多次便宜读取”。Codex 与 Work 登录用户缓存永久保留,则更像是把缓存作为订阅侧的产品体验而非纯计费项。行业层面,缓存保留时长(OpenAI 12 小时、DeepSeek 目标 3 天)正成为推理服务竞争的一个显性参数。
为什么重要
- 对开发者:缓存写入成本翻倍(相对未缓存输入的 1.25 倍升至 2.5 倍),需要重新估算长上下文与多轮调用场景的账单结构。
- 对产品设计:缓存永久保留使 Codex/Work 这类持续型工作流的上下文连续性更强,可能影响用户对“AI 记得我”的预期。
- 对行业对比:缓存时长成为可比较的服务指标,但“保留时长”不等于“命中收益”,需区分计费口径与真实性能。
- 与既有卡片的关系:此前卡片涉及 Codex 的教育插件与产品工作流,本条补上 Codex 在基础设施侧的缓存政策增量,但不重复其功能描述。
局限与不确定性
- 速递为二手转述,“Tibo”全名、公告原文与生效时间待核实。
- “GPT-5.6 及以上模型”的具体型号清单待核实。
- 12 小时缓存的实际命中率、对延迟的真实影响未披露;文档已声明不保证复用 KV 张量或降低延迟。
- Codex 与 Work 缓存“永久保留”的具体范围(是否含所有登录用户、是否有配额上限)待核实。
- DeepSeek 缓存保留 3 天的说法来自同一速递,原始出处待核实。
可用于图书/PPT/简报的角度
- “缓存即商品”:把上下文复用拆成写入价与读取价的定价思路。
- 计费口径 vs 性能承诺:为什么“12 小时”不等于“更快”。
- 推理服务竞争参数表:缓存时长、写入倍率、读取价格作为可比维度。
- 订阅产品与 API 产品的缓存策略分化(Codex/Work 永久保留 vs API 可选 12 小时)。
原始材料
- 来源:腾讯研究院 AI 速递 20261022
- 标题:腾讯研究院AI速递 20261022
- URL:https://m.sohu.com/a/1090863002_455313?scm=10001.325_13-325_13.0.0-0-0-0-0.5_1334
- 条目:三、OpenAI推出12小时API缓存,Codex与Work缓存永久保留
- 英文关键词:OpenAI API prompt caching, 12-hour cache, Codex, ChatGPT Work, GPT-5.6, KV tensor reuse, cache write pricing
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
对开发者:缓存写入成本翻倍(相对未缓存输入的 1.25 倍升至 2.5 倍),需要重新估算长上下文与多轮调用场景的账单结构。 对产品设计:缓存永久保留使 Codex/Work 这类持续型工作流的上下文连续性更强,可能影响用户对“AI 记得我”的预期。 对行业对比:缓存时长成为可比较的服务指标,但“保留时长”不等于“命中收益”,需区分计费口径与真实性能。 与…
相关主题
对应的教材知识点
根据卡片内容自动匹配,点击查看已审核的教材讲解: