Claude API stop_reason=refusal: нулевые расходы на ранние refusal и ограничение advisor max_tokens

Claude API теперь не биллирует stop_reason=refusal без output-токенов; advisor поддерживает max_tokens на вызов. Чеклист операторов: исправьте billing для ранних refusal, добавьте advisor max_tokens в routing config, используйте stop_details.category для триажа refusal.

Опубликовано источник Anthropic

Архивный материал, подготовленный с помощью ИИ по указанному источнику и опубликованный без индивидуальной проверки. Ответственный редактор: Joe Werner.

Схема request flow: ранний отказ выходит с нулевой стоимостью, advisor-вызов имеет настраиваемый потолок токенов
Машинный перевод с английского оригинала — читать оригинал

2 июня Anthropic выкатила два изменения для платформы Claude, которые большинство операторов ещё не заметили. Ни одно из них не является релизом модели. Ни одно не наделало шума в соцсетях. Но вместе они дают операторам два новых рычага управления стоимостью и задержкой — и оба уже работают в production.

Что изменилось

Нулевая стоимость ранних отказов

Когда потоковый классификатор срабатывает до того, как Claude сгенерировал хоть один токен, API теперь возвращает stop_reason: "refusal" с нулевым числом оплачиваемых токенов. Цитата из release notes:

На Claude API вам больше не выставляется счёт за запрос, который возвращает stop_reason: "refusal" без какого-либо сгенерированного Claude вывода.

Важная граница: если Claude успел произвести выходные токены до срабатывания отказа, запрос по-прежнему оплачивается в полном объёме. Нулевая стоимость применяется только тогда, когда safety-классификатор перехватывает запрос до начала генерации.

Параметр max_tokens для advisor tool

Advisor tool — beta-функция, позволяющая более дешёвой модели-executor запрашивать стратегическое руководство у более умной модели-advisor в ходе генерации — теперь принимает параметр max_tokens, ограничивающий число токенов advisor за один вызов. Из release notes:

Advisor tool теперь поддерживает параметр max_tokens для ограничения вывода advisor-модели за один вызов, снижая задержку и стоимость выходных токенов для нагрузок, которым не нужны полноразмерные ответы advisor.

Без этого ограничения вызовы advisor стабильно потребляли 400–700 текстовых токенов плюс 1 400–1 800 thinking-токенов. Операторы теперь могут установить более жёсткий потолок для нагрузок, которым достаточно более короткого плана.

Почему это важно

Отказная тарификация устраняет финансовый штраф за безопасность

До 2 июня каждый отказ — даже ранний, сработавший до генерации единственного токена — всё равно засчитывался как оплачиваемый запрос. Для операторов, обрабатывающих контент-модерируемые нагрузки в масштабе, это создавало извращённый экономический стимул: отключать safety-слои, чтобы не платить за пустые ответы.

Новая политика согласовывает безопасность и экономику. Ранние отказы теперь бесплатны, то есть за включение контентных классификаторов больше не придётся платить напрямую. Для мультитенантных API-платформ эта незаметная смена политики меняет расчёт: принуждать ли к соблюдению защитных мер на уровне gateway или доверять provider-side safety.

Ключевая деталь реализации: нужно различать ранние отказы (нулевая стоимость) и отказы в процессе генерации (по-прежнему оплачиваются). Если ваш cost-tracking pipeline обрабатывает все refusal stop reason одинаково, вы будете завышать стоимость. Обновите billing-логику: проверяйте, были ли произведены выходные токены.

Ограничение токенов advisor открывает новое измерение тюнинга задержки

Advisor tool решает конкретную задачу: получить план дорогой модели, не платя за её полную генерацию. Но до этого изменения каждый advisor-вызов потреблял естественную длину вывода модели — иногда 700+ токенов стратегического текста, когда executor нужна была лишь 200-токенная направляющая подсказка.

Ограничение max_tokens превращает advisor в настраиваемый регулятор:

  • Жёсткое ограничение (200–300 токенов): Быстрые advisor-«подсказки» для механических нагрузок. Ниже задержка, ниже стоимость, но меньше контекста для executor.
  • Среднее ограничение (500–600 токенов): Сбалансированное руководство для многошаговых coding-задач.
  • Без ограничения (по умолчанию): Полные advisor-планы для сложных reasoning-pipeline, где важна каждая деталь.

Это та же разновидность контроля, которую операторы уже имеют через основной параметр max_tokens, теперь применяемая к вложенному advisor-вызову. Если ваш routing-слой программно конфигурирует advisor-вызовы, потолок токенов — это новый per-request параметр, который стоит вынести наружу.

За чем следить

Tracking стоимости отказов требует обновления

Если вы ведёте cost-дашборд по расходам Claude API, проверьте, разграничивает ли ваша логика обработки отказов ранние и промежуточные refusal. Объект usage по-прежнему присутствует в ответах с ранними отказами, но токены в нём носят информационный характер — не выставляйте счёт по ним.

stop_details теперь возвращает категории отказов

Тот же релиз открыл поле stop_details для публичного использования. Когда stop_reason равен "refusal", stop_details возвращает category ("cyber", "bio" или null) и человекочитаемый explanation. Это даёт операторам структурированный сигнал для маршрутизации разных классов отказов к соответствующим downstream-обработчикам — например, повторный запрос с другой моделью при null-категории (content policy) против эскалации при "cyber" или "bio" (критическая безопасность).

Advisor tool остаётся в beta

Advisor tool по-прежнему требует beta-заголовок advisor-tool-2026-03-01. Он доступен на Claude API и Claude Platform on AWS, но не на Bedrock, Vertex AI или Microsoft Foundry. Если ваш routing-слой абстрагирует несколько provider, ограничение токенов advisor применимо только к прямым вызовам Claude API.

Что делать пользователям TheRouter

Если ваша routing-политика включает Claude в качестве provider, стоит аудировать оба изменения:

  1. Тарификация отказов: Убедитесь, что ваш cost-reconciliation pipeline учитывает новые нулевые ранние отказы. Если вы маршрутизируете через API gateway, проверьте, обрабатывает ли billing-слой gateway это изменение, или нужен патч.
  2. Потолок токенов advisor: Если вы используете advisor tool через прямые вызовы Claude API, вынесите tools[].max_tokens как настраиваемый параметр в конфигурацию routing. Это прямой инструмент оптимизации задержки и стоимости, которого до 2 июня не существовало.

Оба изменения уже активны. Миграция не требуется — они являются дополнительными, а не ломающими. Но игнорировать их — значит оставлять неиспользованным потенциал для снижения стоимости и задержки.

Абстрактная редакционная иллюстрация: классификатор биологии перенаправляет запросы на резервную модель в узле маршрутизации, представляя управляемый провайдером fallback в инфраструктуре AI API

Исправление классификатора биологии Fable 5: тихая замена модели, о которой ваш биллинг не предупредил

Fable 5 сократил fallback по биологическим запросам на 85%. Для API-операторов это обнажило скрытый риск: запросы к Fable 5 обслуживал Opus 5 без каких-либо предупреждений. Что нужно проверить, прежде чем считать, что паритет модели восстановлен.

источник Anthropic
Архитектурная схема потока переопределения конфигурации агента на уровне сессии в платформе Claude Managed Agents

Claude Managed Agents: пересессионные переопределения конфигурации и event deltas — что меняется в архитектуре маршрутизации агентов

Обновление Anthropic от 30 июня добавляет в Claude Managed Agents переопределения конфигурации на уровне сессии, streaming event deltas, lifecycle webhooks и управление инъекцией vault-учётных данных — меняя подход к runtime-маршрутизации.

источник Anthropic
Абстрактная схема разветвлённой архитектуры маршрутизации с двумя путями инференса — один работает на инфраструктуре Azure, другой на инфраструктуре Anthropic — объединяющимися в enterprise API-шлюзе

Claude в Azure Foundry — официальный релиз: что новая архитектура хостинга означает для enterprise-маршрутизации

Claude в Microsoft Foundry теперь в статусе GA с двумя режимами хостинга: инференс на Azure или на Anthropic, нативный биллинг CCU, MACC-drawdown, аутентификация Entra ID и US Data Zone для enterprise-команд.

источник Anthropic / Microsoft Azure
Помощь и контакты