Claude Code 2.1.237 исправляет prompt caching через LLM gateway — а 2.1.236 добавляет модель по умолчанию, которую можно переопределить

Если вы маршрутизируете Claude Code через gateway или указываете собственный base_url, prompt cache молча завершался ошибкой начиная как минимум с версии 2.1.229. Каждый запрос повторно обрабатывал полную историю сессии при полной стоимости токенов. В версии 2.1.237, вышедшей на этой неделе, это исправлено.

Два релиза — 2.1.236 и 2.1.237 — стоит рассматривать вместе: оба привносят изменения, которые прямо затрагивают развёртывания через gateway.

Что сломалось и что исправляет 2.1.237

Prompt caching в Claude Code предотвращает повторное кодирование полного контекстного окна при каждом API-вызове. Сессия с большим проектным контекстом может избежать отправки идентичного системного промта и содержимого файлов как холодных токенов при каждом запросе — заголовок кэша указывает upstream переиспользовать сохранённый kv-блок.

Когда сессия проходила через собственный base_url — будь то self-managed прокси, корпоративный AI gateway или managed routing service — в версиях до 2.1.237 регрессия приводила к инвалидации кэша при каждом запросе. Запись в changelog лаконична: «Fixed prompt caching for sessions using an LLM gateway or custom base URL». Операционные последствия при этом совсем не лаконичны.

Для типичной сессии Claude Code с проектным контекстом в 30–50K токенов промах кэша означает отправку этих токенов холодными при каждом запросе вместо их амортизации в течение сессии. На протяжении многочасовой сессии с 30–60 запросами разница между попаданием и промахом кэша по входным токенам может давать фактический множитель стоимости 5–10× на входной стороне — в зависимости от того, насколько стабилен контекст между запросами. Команды, отслеживающие стоимость токенов на сессию при маршрутизации через gateway, видели аномально высокое число входных токенов без каких-либо ошибок или предупреждений с объяснением причины.

Регрессия, по всей видимости, восходит к 2.1.229, где был проведён рефакторинг управления границей системного промта в сессии. Исправление в 2.1.237 восстанавливает cache-control заголовки в запросах к non-Anthropic base URL.

Если вы используете 2.1.236 или более раннюю версию и маршрутизируете через gateway, обновитесь до 2.1.237 до следующей тяжёлой сессии.

Новая переменная окружения ANTHROPIC_DEFAULT_MODEL (2.1.236)

Второй элемент для операторов gateway — новая переменная окружения: ANTHROPIC_DEFAULT_MODEL.

До версии 2.1.236 Claude Code имел ANTHROPIC_MODEL, который принудительно задаёт конкретную модель вне зависимости от того, что пользователь выбирает через /model. Это полезно для operator-managed развёртываний, где необходимо контролировать, какая модель вызывается на backend, но лишает пользователя возможности переключать модели в течение сессии.

ANTHROPIC_DEFAULT_MODEL имеет иную семантику: задаёт модель, с которой стартуют новые сессии, но выбор через /model по-прежнему её переопределяет — и это переопределение сохраняется между перезапусками. Практический путь миграции для оператора:

Для команд, работающих через routing service с поддержкой биллинговой атрибуции по моделям, новая переменная позволяет задать стартовую модель для группировки затрат, не фиксируя пользователя на этом выборе.

Auto mode теперь работает одинаково на Bedrock, Vertex и Foundry

Третье операторски значимое изменение в 2.1.236 — исправление паритета для auto mode. До этого релиза сессии на Bedrock, Vertex AI и Azure Foundry, а также сессии с отключённой телеметрией работали с деградированной версией классификатора auto mode. Исправление выравнивает дефолты классификатора с поведением на Claude API, включая классификацию с оценкой по уровню серьёзности.

Если вы маршрутизировали Claude Code к cloud-hosted Claude endpoint'ам и замечали, что auto mode одобряет или отклоняет вызовы инструментов иначе, чем при прямом подключении — это и был тот разрыв в поведении. После исправления паритета настройки auto mode в вашей организации должны давать одинаковое поведение независимо от того, через какой provider path работает Claude Code.

Правила запрета чтения в sandbox теперь устойчивы к переименованию (2.1.236)

Ещё один момент для операторов multi-tenant gateway: wildcard read-deny правила в macOS sandbox — например, **/.env для блокировки чтения файлов с учётными данными — теперь имеют приоритет внутри разрешённых областей чтения и не могут быть обойдены переименованием заблокированного файла. До 2.1.236 правило **/.env можно было обойти, переименовав файл. Исправление заставляет deny-правило работать как настоящий denylist, а не как мягкая подсказка.

Что следует сделать операторам gateway

• Обновиться до 2.1.237 и отслеживать число входных токенов в следующей сессии. Если ваши сессии попали под регрессию, вы должны увидеть значительное снижение объёма холодных токенов.
• Выбрать между ANTHROPIC_MODEL и ANTHROPIC_DEFAULT_MODEL исходя из того, нужно ли принудительно задать модель или только указать стартовый default.
• Проверить конфигурацию auto mode, если ваша цель маршрутизации — Bedrock, Vertex или Foundry. Исправление паритета классификатора может изменить поведение одобрений способами, которые ваши текущие политики не учитывают.
• Проверить sandbox deny-правила, если вы используете Claude Code в общих или multi-tenant сценариях. Исправление приоритета wildcard-правил — однозначно позитивное изменение, но стоит сверить его с вашим существующим ruleset.

Если вы используете TheRouter для маршрутизации сессий Claude Code к нескольким провайдерам, исправление prompt caching применяется к любой сессии с кастомным ANTHROPIC_BASE_URL — именно так работает подключение через TheRouter. Направьте вашу установку Claude Code на endpoint TheRouter и обновитесь до 2.1.237, чтобы восстановить эффективность кэширования.