跳到正文
热点事件持续更新

OpenAI 提示缓存新增 12 小时保留选项

2 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

OpenAI 在 API 中新增 12 小时提示缓存保留选项。用户可选择 12 小时、沿用 30 分钟默认档,或在同一请求中混用:共享指令、工具和上下文用 12 小时,较新的对话内容用 30 分钟。OpenAI 称,即使请求间隔数小时,命中缓存仍按更低的缓存输入价格计费。 OpenAI 表示,若需全天重复复用同一上下文,反复命中缓存带来的节省可显著超过 12 小时缓存的额外成本。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. X · OpenAI Developers
    OpenAI 提示词缓存支持 12 小时保留,可与 30 分钟默认档混用

    OpenAI 的提示词缓存新增 12 小时保留选项,用户也可沿用 30 分钟默认档,或在同一请求中混用两者:共享指令用 12h、较新的对话内容用 30 分钟。若需全天重复复用同一上下文,反复命中缓存带来的节省可显著超过 12 小时缓存的额外成本。

  2. X · OpenAI Developers
    OpenAI API 新增 12 小时提示词缓存选项

    OpenAI API 现支持选择 12 小时提示词缓存,让 dots 这类持久化智能体全天复用上下文。共享指令、工具和上下文可缓存更久,即使请求间隔数小时,也按更低的缓存输入价格计费。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。