OpenAI выпустил Prompt Cache Diagnostics в GA для Responses API. Новые поля comparison_response_id и reason объясняют промахи кеша — но если gateway удаляет prompt_cache_options, диагностика молча исчезает.
Обновление Anthropic API от 1 сентября добавило три beta-функции — per-message effort, turn-scoped system-сообщения и mid-conversation tool changes — позволяющие менять поведение модели в длинной сессии без инвалидации кэш-префикса.
Claude Code 2.1.237 устраняет баг, который молча инвалидировал prompt cache для каждой сессии через custom base URL. Если вы маршрутизируете Claude Code через gateway, с момента версии 2.1.229 каждый запрос обрабатывался с полной стоимостью контекстного окна.
15 июля Anthropic убрала требование beta-заголовка для mid-conversation system messages на API, Bedrock и Vertex AI. Если ваш gateway фильтрует role:system в массиве messages при проксировании Claude, agentic-сессии уже молча сломаны.
Claude Code 2.1.211 исправляет регрессию prompt caching: завершающий блок системного контекста молча выставлялся как свежие input-токены при каждом запросе через Bedrock, Vertex AI, Mantle и Foundry. Операторам gateway необходим аудит счетов.
OpenAI теперь по умолчанию хранит подходящий GPT-5 prompt cache 24 часа для организаций без ZDR. Что GPT-5.5, prompt_cache_key и gateway routing меняют в стоимости API и data policy.
