AI消息速览

OpenAI 推出 12 小时 API 缓存,Codex 与 Work 缓存永久保留

事件日期 2026-10-22 · 产业观察 · 已接受

事件日期2026-10-22
信息日期2026-10-22
入库日期2026-10-22
通道产业观察
状态已接受
来源腾讯研究院(搜狐同步)

知识卡片:OpenAI 推出 12 小时 API 缓存,Codex 与 Work 缓存永久保留

一句话结论

OpenAI 为 API 增加最长 12 小时的提示缓存选项(对 GPT-5.6 及以上模型生效),同时宣布 Codex 和 Work 登录用户的缓存永久保留;但官方文档明确 12 小时只是“按缓存命中计费”的最短生命周期,不保证复用 KV 张量或降低延迟。

事件概述或研究问题

据腾讯研究院 AI 速递(20261022)转述,ChatGPT 和 Codex 负责人 Tibo 宣布 OpenAI API 提供 12 小时缓存选项,Codex 与 Work 登录用户的缓存将永久保留。该速递同时提到,DeepSeek 开源推理框架的缓存保留目标达 3 天。本条关注的问题是:长时效缓存对 API 成本结构与开发者使用方式意味着什么,以及“缓存保留”与实际性能收益之间的差距。

方法/产品要点

  • 适用模型:该选项对 GPT-5.6 及以上模型生效。
  • 时长选项:可在默认 30 分钟与 12 小时之间选择。
  • 价格变化:选 12 小时后,缓存写入价格从未缓存输入的 1.25 倍升至 2.5 倍;缓存读取价格不变。
  • 官方口径:文档称 12 小时仅为按缓存命中计费的最短生命周期,不保证复用 KV 张量,也不保证降低延迟。
  • 账号侧政策:Codex 和 Work 登录用户的缓存永久保留。
  • 对照信息:DeepSeek 开源推理框架的缓存保留目标为 3 天。

主要结果或产业意义

把缓存从“短时命中”拉长到“半天级”,实质是把上下文复用变成一项可按小时计价的商品:写入更贵(2.5 倍),读取不变,鼓励开发者在长会话、长文档、重复系统提示等场景中权衡“多付写入费换多次便宜读取”。Codex 与 Work 登录用户缓存永久保留,则更像是把缓存作为订阅侧的产品体验而非纯计费项。行业层面,缓存保留时长(OpenAI 12 小时、DeepSeek 目标 3 天)正成为推理服务竞争的一个显性参数。

为什么重要

  • 对开发者:缓存写入成本翻倍(相对未缓存输入的 1.25 倍升至 2.5 倍),需要重新估算长上下文与多轮调用场景的账单结构。
  • 对产品设计:缓存永久保留使 Codex/Work 这类持续型工作流的上下文连续性更强,可能影响用户对“AI 记得我”的预期。
  • 对行业对比:缓存时长成为可比较的服务指标,但“保留时长”不等于“命中收益”,需区分计费口径与真实性能。
  • 与既有卡片的关系:此前卡片涉及 Codex 的教育插件与产品工作流,本条补上 Codex 在基础设施侧的缓存政策增量,但不重复其功能描述。

局限与不确定性

  • 速递为二手转述,“Tibo”全名、公告原文与生效时间待核实。
  • “GPT-5.6 及以上模型”的具体型号清单待核实。
  • 12 小时缓存的实际命中率、对延迟的真实影响未披露;文档已声明不保证复用 KV 张量或降低延迟。
  • Codex 与 Work 缓存“永久保留”的具体范围(是否含所有登录用户、是否有配额上限)待核实。
  • DeepSeek 缓存保留 3 天的说法来自同一速递,原始出处待核实。

可用于图书/PPT/简报的角度

  • “缓存即商品”:把上下文复用拆成写入价与读取价的定价思路。
  • 计费口径 vs 性能承诺:为什么“12 小时”不等于“更快”。
  • 推理服务竞争参数表:缓存时长、写入倍率、读取价格作为可比维度。
  • 订阅产品与 API 产品的缓存策略分化(Codex/Work 永久保留 vs API 可选 12 小时)。

原始材料

  • 来源:腾讯研究院 AI 速递 20261022
  • 标题:腾讯研究院AI速递 20261022
  • URL:https://m.sohu.com/a/1090863002_455313?scm=10001.325_13-325_13.0.0-0-0-0-0.5_1334
  • 条目:三、OpenAI推出12小时API缓存,Codex与Work缓存永久保留
  • 英文关键词:OpenAI API prompt caching, 12-hour cache, Codex, ChatGPT Work, GPT-5.6, KV tensor reuse, cache write pricing

发现内容有误?

免登录提交,管理员审核并完成修正后才会公开修订说明。

值得关注

对开发者:缓存写入成本翻倍(相对未缓存输入的 1.25 倍升至 2.5 倍),需要重新估算长上下文与多轮调用场景的账单结构。 对产品设计:缓存永久保留使 Codex/Work 这类持续型工作流的上下文连续性更强,可能影响用户对“AI 记得我”的预期。 对行业对比:缓存时长成为可比较的服务指标,但“保留时长”不等于“命中收益”,需区分计费口径与真实性能。 与…

相关主题

对应的教材知识点

根据卡片内容自动匹配,点击查看已审核的教材讲解: