
OpenAI Prompt Cache Diagnostics 正式发布:网关层不能随意丢弃的字段
OpenAI 的 Prompt Cache Diagnostics 工具在 Responses API 正式发布,新增 comparison_response_id 和 reason 字段用于定位缓存未命中原因。若网关层剥离 prompt_cache_options,诊断信号会静默丢失。

OpenAI 的 Prompt Cache Diagnostics 工具在 Responses API 正式发布,新增 comparison_response_id 和 reason 字段用于定位缓存未命中原因。若网关层剥离 prompt_cache_options,诊断信号会静默丢失。

Anthropic 9 月 1 日的 API 更新带来三个 beta 功能:逐消息 effort 控制、轮次限定 system 消息、会话中途工具增删,让运营商无需失效缓存前缀就能在长对话里动态调整算力强度、指令和工具可见性。

Claude Code 2.1.237 修复了一个将所有经自定义 base URL 路由的会话提示缓存静默失效的 bug。如果你一直在通过网关路由 Claude Code,自 2.1.229 起,每一轮对话都在以完整上下文窗口的 token 成本重新处理。

Anthropic 的对话中 system message 功能于 7 月 15 日取消 beta header 要求,覆盖 API、Bedrock 和 Vertex AI。如果你的 gateway 在代理 Claude 时过滤了 messages 数组中的 role:system 条目,你的 agentic 会话已在无声中损坏。

Claude Code 2.1.211 修复了一个 prompt caching 计费回归问题,该问题会在每次请求时将末尾的系统上下文块静默计为新鲜 input token,影响 Bedrock、Vertex AI、Mantle 和 Foundry 四个平台。如果你的团队通过云厂商 gateway 路由 Claude Code,你可能有超额账单需要核查。

OpenAI 现在会为非 ZDR 组织将符合条件的 GPT-5 提示缓存默认保留 24 小时。了解 GPT-5.5、prompt_cache_key 与网关路由选择如何影响 API 成本和数据策略。