Claude Code переплачивал за Bedrock, Vertex, Mantle и Foundry: чеклист аудита для операторов gateway

Строчка, спрятанная в конце changelog Claude Code 2.1.211, заслуживает отдельного отчёта об инциденте: регрессия в prompt caching на Bedrock, Vertex AI, Mantle и Foundry молча выставляла завершающий блок системного контекста как свежие input-токены при каждом запросе. Если команда маршрутизировала Claude Code через один из этих четырёх cloud-provider gateway, вы платили за кеш-хиты по цене промахов — на протяжении неизвестного числа запросов до выхода фикса.

Это не мелкий косметический баг. Prompt caching — один из главных рычагов снижения затрат при масштабном использовании Claude Code. Когда блок системного контекста выпадает из кеша и начинает тарифицироваться как новые токены при каждом обращении, эффективная стоимость длинных сессий резко растёт.

Что произошло

Claude Code 2.1.211, выпущенный на этой неделе, содержит исправление регрессии в обработке завершающего блока системного контекста на четырёх cloud-provider gateway-эндпоинтах: Amazon Bedrock, Google Cloud Vertex AI, Anthropic Mantle и Microsoft Azure Foundry.

Регрессия приводила к тому, что последний блок системного промпта обходил кеш и тарифицировался как новые input-токены при каждом запросе, даже если содержимое не менялось с предыдущего хода. Команды, работающие напрямую через Anthropic API, не затронуты — проблема специфична для gateway-путей.

Claude Code активно использует prompt caching. Системный контекст типовой сессии включает инструкции, контекст проекта, файлы rules и схемы инструментов — всё это стабильно от хода к ходу. Потеря кеш-хитов по этому блоку означает дополнительные затраты на токены при каждом ходе, пропорциональные размеру контекстного блока.

Почему это важно для AI-инженерных команд

Регрессия затрагивает четыре из пяти основных deployment-путей корпоративного Claude Code:

Команды, маршрутизирующие весь трафик разработчиков через централизованный AI gateway — Bedrock или Vertex AI — ради data residency, compliance или cost allocation, сталкивались с регрессией в каждой сессии.

Масштаб ущерба пропорционален длине сессии и размеру системного контекста. Длинные сессии с объёмными файлами правил и проектным контекстом пострадали сильнее всего. Если команда в последнее время замечала рост соотношения cache-miss или неожиданные скачки счетов в Bedrock или Vertex AI, стоит проверить период до обновления до 2.1.211.

Операторский взгляд

Эта регрессия — наглядный пример того, почему операторам AI gateway нужно инструментировать метрики эффективности кеша на уровне gateway, а не полагаться только на встроенный счётчик стоимости Claude Code.

Что проверить, если команда маршрутизирует Claude Code через Bedrock, Vertex, Mantle или Foundry:

1. Обновитесь немедленно. Обновите Claude Code до 2.1.211 или выше на всех рабочих станциях разработчиков и в CI. Фикс включён, но работает только после обновления.

2. Проведите аудит последних счетов. Выгрузите логи использования Bedrock или Vertex AI за последние 30–60 дней и сравните соотношение cache_read_input_tokens и cache_creation_input_tokens. Если cache_creation необъяснимо завышен при стабильном системном контексте — регрессия могла быть причиной.

3. Следите за дрейфом модели в subagent. В 2.1.211 также исправлена связанная регрессия: subagent, запущенный с явным model override, возвращался к модели родительской сессии при resume или получении следующего сообщения. Для команд, которые через gateway направляют конкретные subagent к более дешёвым или быстрым моделям, это означало молчаливую отмену решения о маршрутизации посреди сессии.

4. Проверьте надёжность daemon аутентификации gateway. В 2.1.211 устранена ошибка, из-за которой фоновые задачи на LLM gateway auth (ANTHROPIC_AUTH_TOKEN + ANTHROPIC_BASE_URL) возвращали «Not logged in» после перезапуска daemon. Это затрагивает команды, использующие кастомные gateway-учётные данные вместо стандартных API-ключей.

Дополнительные operator-значимые исправления в 2.1.210 и 2.1.208:

• Исправлена изоляция worktree (2.1.210): Subagent с isolation: 'worktree' ранее мог выполнять git-мутирующие команды в основном checkout репозитория. Для команд, использующих изолированные subagent для ревью недоверенного кода, это была проблема безопасности.
• Исправлен дефолт auto mode на Bedrock/Vertex/Foundry (2.1.210): /doctor пропускал предложение активировать auto mode по умолчанию на этих трёх платформах, где он уже не требует явного включения. Команды на управляемых deployment могли упустить это.
• Исправлен ложный отчёт о таймауте hook (2.1.210): Таймаут callback hook ошибочно сообщался модели как отказ пользователя, из-за чего сессии без присмотра останавливались и ждали. Затрагивает операторов gateway, использующих хуки PreToolUse/PostToolUse для применения политик.
• Исправлена обработка потоковых ответов Bedrock (2.1.208): Потоковые запросы к Bedrock завершались с ошибкой «Truncated event message received», когда gateway трансформировал ответ. Теперь ошибка содержит content-type и указывает на прокси.
• Безопасность превью разрешений (2.1.211): Превью разрешений, отправляемые в chat-каналы, не нейтрализовали символы bidi-override, нулевой ширины и визуально похожие кавычки — вектор для визуальной подмены сообщений об одобрении через tool-ввод. Исправлено.

Что должны сделать пользователи TheRouter

Командам, маршрутизирующим Claude Code через multi-provider gateway, следует воспринять регрессию биллинга prompt cache как сигнал: нужно инструментировать метрики эффективности кеша на уровне gateway, а не только полагаться на встроенный счётчик Claude Code.

Конкретно: если gateway собирает разбивку токенов по запросам, добавьте отслеживание соотношения cache_creation_input_tokens к cache_read_input_tokens. При стабильном системном контексте внезапный рост cache_creation — надёжный индикатор того, что кеширование на gateway-пути работает некорректно.

Документация Claude apps gateway описывает архитектуру маршрутизации через Bedrock и Vertex. Команды на multi-cloud deployment должны подтвердить версию Claude Code после обновления до 2.1.211 и сравнить метрики стоимости до и после, чтобы оценить реальный масштаб регрессии.