AI导航

OpenAI提示缓存能存12小时了:智能体隔几小时回来也不重算

AI资讯
2 min read
17 次阅读

OpenAI提示缓存的最长保留时间,从半小时变成了12小时。2026年10月20日,OpenAI在API更新日志和官方开发者账号宣布,Responses API新增12小时提示缓存选项:开发者把同一套指令、工具定义和参考材料缓存下来,隔几个小时再发请求,仍能按缓存价计费,不必重新全价计算。同一天,Codex负责人Tibo Sottiaux补充,已登录的Codex与Work用户缓存永久保留,隔几小时回到旧对话也保证命中。

写入更贵,读取价不变

新选项通过缓存断点的ttl参数设置:默认30m,也可以选12h,适用于GPT-5.6及之后的模型。代价在写的那一下:30分钟缓存的写入按输入价1.25倍计,12小时写入是2.5倍;命中后的读取价不变,仍是输入价的0.1倍。也就是说,12小时选项买的是“别过期”,不是“更便宜的读取”。那些大段不变的系统指令、工具说明和政策文档,正是它想保住的东西。

间隔半小时以上、至少复用三次才回本

按官方价格测算,12小时写入比30分钟写入多付的1.25倍输入价,要靠省下两次重写才能赚回来,所以同一前缀至少在半小时以上的间隔里被复用三次,选12h才划算。每45分钟问一次的客服助手、一天里断续调用的内部工具,是典型受益者;每10分钟就在跑的任务,默认缓存本来就不会凉,用12h纯属多付;每天只跑一次的批处理更别选,缓存照样过期,写入还贵一倍。

一个容易踩的设置坑

ttl如果设在请求级,会连系统自动放的隐式断点一起升级,整段对话每轮新增的内容都按2.5倍写入。有开发者按官方价格测算,一个20轮对话这样设置,输入账单比默认高出约68%。稳妥做法是只在全天复用的稳定材料末尾放一个12h的显式断点,会话内容留给默认30分钟。自家产品里的长驻智能体先去翻一遍缓存设置,这笔钱花得值不值,一周账单就能看出来。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。