Claude Fable 5 Server-Side Fallback API: обработка отказов без retry-цикла

Если ваш Fable 5 API key работает, но claude-fable-5 возвращает отказ, короткий ответ такой: укажите fallback-модель прямо в запросе, зафиксируйте beta-заголовок fallback и проверяйте usage.iterations, чтобы понять, ответил ли Fable 5 или резервная модель.

Когда 9 июня Anthropic представил Claude Fable 5, заголовки писали о бенчмарках. Операционный заголовок звучит иначе: Fable 5 — первая модель Claude, способная отклонить запрос с stop_reason: "refusal". Это обычный HTTP 200, без контента, сигнализирующий, что классификатор не стал отвечать. Спустя три дня после релиза Anthropic опубликовал инструментарий для обработки этого сигнала без самописной логики retry: server-side fallback API для Claude Fable 5.

Что умеет Server-Side Fallback API

Раньше обработка отказа Fable 5 выглядела так: проверить stop_reason, поймать ветку "refusal" в application layer, заново отправить запрос на другую модель — как правило, на Claude Opus 4.8 или иную GA-модель. Схема рабочая, но добавляет один round trip, дублирует стоимость prompt cache между двумя моделями и требует от каждой команды, работающей с Fable 5, независимо строить эту логику.

Бета-версия server-side-fallback-2026-06-01 сжимает всё это до одного вызова:

curl https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHR…_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "anthropic-beta: server-side-fallback-2026-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-fable-5",
    "max_tokens": 1024,
    "fallbacks": [{"model": "claude-opus-4-8"}],
    "messages": [{"role": "user", "content": "Ваш промпт"}]
  }'

Если Fable 5 отвечает — возвращается обычный response с model: "claude-fable-5". Если отказывает и fallback-модель указана — API повторяет запрос на claude-opus-4-8 внутри того же вызова и возвращает ответ с model: "claude-opus-4-8". Приложение видит один response, одно billing-событие, а массив usage.iterations в ответе показывает, по какому пути прошёл запрос.

В массиве fallbacks можно указать до трёх резервных моделей, выстроив цепочку. API перебирает их по порядку, пока одна не ответит, либо возвращает последний отказ, если все модели отклонили запрос.

Fallback Credit Token: исключаем дублирование стоимости Prompt Cache

Биллинговая механика не менее важна, чем маршрутизация. Prompt cache изолирован на уровне модели. При ручном retry-цикле, если отклонённый запрос содержал длинный кэшированный system prompt, переключение на вторую модель перезаписывало этот cache с нуля по полной ставке cache write.

Решение Anthropic — fallback_credit_token: непрозрачный токен, который появляется в поле stop_details ответа с отказом, если в запросе активен beta-заголовок fallback-credit-2026-06-01. Передав токен как fallback_credit_token в теле повторного запроса, вы получаете billing резервной модели, как будто диалог с самого начала шёл на ней: стоимость cache write поглощается, платите только по ставке cache read.

Server-side fallback и SDK middleware для TypeScript, Python, Go, Java и C# применяют fallback credit автоматически. Управлять токеном вручную нужно только при использовании raw HTTP, Ruby, PHP — или при нестандартной логике retry.

Категории отказов и когда fallback поможет

Не все отказы одинаковы. Fable 5 раскрывает четыре значения stop_details.category:

При категориях "frontier_llm" и "reasoning_extraction" fallback-модель, как правило, тоже откажет или ответит способом, который не соответствует исходному намерению. Такие запросы лучше направлять в очередь ручной проверки, а не выполнять тихий retry.

Что меняется для команд по AI-инженерии

Server-side fallback API Claude Fable 5 меняет картину рисков при маршрутизации Fable 5 в продакшене по трём направлениям.

1. Отказ больше не fault mode, требующий обработки на уровне gateway. Командам, которые раньше держали middleware-слой для перехвата stop_reason: "refusal" и ре-маршрутизации, теперь можно встроить эту логику прямо в API-вызов. Особенно актуально для тех, кто запускает Fable 5 через proxy или AI gateway: fallback можно декларировать на уровне запроса, а не инфраструктуры.

2. Экономика cache-интенсивных нагрузок меняется. Если system prompts длинные, кэшированы на Fable 5 и процент отказов заметен, механизм fallback_credit_token стоит пробенчмаркировать. Команды, платящие значительные суммы за cache write при retry, смогут вернуть часть затрат в fallback-сценариях.

3. Доступно на Claude API и Claude Platform on AWS — но не на Bedrock, Vertex и Foundry (пока). Параметр fallbacks отклоняется в Message Batches API и в текущей бете недоступен на Amazon Bedrock, Vertex AI и Microsoft Foundry. Командам, маршрутизирующим запросы через эти платформы, следует использовать SDK middleware для client-side fallback: он охватывает все платформы.

На что обратить внимание

Anthropic помечает функцию как бету (заголовок server-side-fallback-2026-06-01). По соглашению об именовании бет стабильная версия, вероятно, выйдет позже в этом году. До этого момента рекомендуется:

• Зафиксировать beta-заголовок с версией и не рассчитывать, что будущий стабильный API будет идентичен текущему.
• Логировать, какая fallback-модель обслужила каждый ответ, через usage.iterations — полезные данные для аудита частоты отказов и качества fallback-модели по типам нагрузки.
• Через несколько недель в продакшене вернуться к разбивке по категориям отказов: Anthropic отдельно отметил, что категория "cyber" даёт известные ложные срабатывания на безобидных security- и DevOps-задачах.

Командам, уже работающим с Fable 5 через ручной retry: server-side fallback API — чистый апгрейд. Командам, откладывавшим переход на Fable 5 из-за сложности обработки отказов: это обновление снимает один из главных барьеров интеграции.

Материалы

Полная справка — в документации Anthropic: Refusals and fallback. Fallback and billing cookbook содержит готовый end-to-end пример с mid-stream refusals и подсчётом токенов.

Для команд, маршрутизирующих запросы Fable 5 через TheRouter: routing layer может транслировать объявление fallback в upstream API без изменений — либо fallback-логику можно вынести на уровень AI gateway для платформ, где server-side параметр недоступен (Bedrock, Vertex, Foundry).