Anthropic Bedrock Mantle: Claude Messages API Routing на AWS

Если вы ищете AnthropicBedrockMantle, bedrock messages api или claude code bedrock mantle, главный вывод простой: Amazon Bedrock теперь принимает запросы в форме Claude Messages API через Mantle endpoint, но это не полный клон Anthropic API. Выбор этого endpoint напрямую влияет на routing policy.

10 июня Anthropic опубликовала обновлённую документацию по интеграции Claude in Amazon Bedrock. Ключевое изменение — появление нового эндпоинта bedrock-mantle, который обслуживает модели Claude через стандартный Anthropic Messages API по адресу /anthropic/v1/messages с SSE-стримингом. Формат запроса и SDK полностью совпадают с тем, что используется при обращении к собственному API Anthropic. Этот эндпоинт заменяет прежний путь на базе InvokeModel / Converse в качестве рекомендуемого способа интеграции (старый путь по-прежнему доступен).

Fable 5 стал доступен на новом эндпоинте с первого дня; позже AWS обновила анонс и сообщила, что Anthropic попросила отозвать доступ к Fable 5 и Mythos 5 из-за требований экспортного контроля США, тогда как Opus 4.8 и другие модели не затронуты. Практический итог: команды, эксплуатирующие рабочие нагрузки Claude в AWS, теперь выбирают из трёх различных эндпоинтов — каждый со своими характеристиками безопасности, задержек и функционального покрытия.

Что изменилось

Ключевые свойства нового эндпоинта bedrock-mantle:

• Формат API: Anthropic Messages API (/anthropic/v1/messages), SSE-стриминг. Кодировка AWS event-stream больше не используется.
• ID моделей: с префиксом anthropic. — например, anthropic.claude-fable-5, anthropic.claude-opus-4-8.
• Аутентификация: три варианта — service role Bedrock (рекомендуется), IAM assumed roles или bearer tokens. Все проходят через AWS SigV4-подпись.
• Нулевой доступ оператора: сотрудники Anthropic не имеют доступа к инфраструктуре инференса, работающей в AWS. Это существенное отличие для регулируемых рабочих нагрузок.
• Модели на старте: Claude Fable 5, Opus 4.8, Opus 4.7, Haiku 4.5 (открытый доступ на момент запуска); Mythos Preview (по приглашениям через Project Glasswing, только us-east-1). Позже AWS обновила анонс: Fable 5 и Mythos 5 недоступны после запроса Anthropic по экспортному контролю, Opus 4.8 и другие модели не затронуты.
• Регионы: глобальный эндпоинт для Fable 5, Opus 4.8, Opus 4.7 и Haiku 4.5. Региональные эндпоинты облагаются 10%-ной надбавкой к цене за соблюдение требований к локации данных.
• Квота по умолчанию: 2 миллиона входных токенов в минуту; до 4 миллионов без одобрения со стороны Anthropic (лимиты RPM на стороне AWS применяются отдельно).
• Поддержка SDK: клиент AnthropicBedrockMantle доступен для Python, TypeScript, C#, Go, Java, PHP, Ruby. Шаблон эндпоинта: https://bedrock-mantle.{region}.api.aws/anthropic/v1/messages.

Разрыв в возможностях между новым эндпоинтом и собственным API Anthropic значителен. На bedrock-mantle не поддерживаются: серверные инструменты (code execution, web search, web fetch), агентская инфраструктура (Agent Skills, MCP connector), API Message Batches, Files API, URL-источники и серверный fallback — его реализация теперь лежит на клиентской оркестрации.

Это важно, потому что формирует реальную матрицу компромиссов для роутинг-политики, а не просто замену одного эндпоинта на другой.

Почему это важно для AI-инженерных команд

Когда командам в последний раз приходилось думать об архитектуре эндпоинтов для Claude на AWS, выбор был прост: legacy Bedrock с InvokeModel. Этот путь работал, но был несовместим с Anthropic SDK — требовались обёртки AWS SDK, ARN-версионированные идентификаторы моделей и кодировка event-stream.

Теперь есть три пути, и решение не такое тривиальное:

Эта таблица — суть решения. Каждый путь отвечает на вопрос «какие команды, в каком сценарии, должны использовать какой эндпоинт».

Прямой Anthropic API — дефолт для команд, которым нужна полная функциональность: серверные инструменты, Claude Managed Agents, MCP connector или Message Batches для массового инференса. Цена — отдельные биллинговые отношения и отсутствие нативной границы аутентификации AWS.

Claude Platform on AWS — выбор для команд, которые хотят инференс под управлением Anthropic с billing через AWS Marketplace и обновлениями функциональности, как правило, в тот же день, что и у прямого API. Это middle ground между нативным API и инфраструктурой AWS.

Bedrock Messages API — оптимальный путь для регулируемых рабочих нагрузок, команд, глубоко интегрированных в AWS-архитектуру, и сценариев, требующих нулевого доступа оператора (сот Anthropic не касается инфраструктуры инференса) плюс IAM-управления. Разрыв в функциональности реален, но для чистых рабочих нагрузок инференса — отправить промпт, получить комплишен — Messages API-форма в сочетании с SigV4-аутентификацией представляет собой чистое решение.

Угол зрения роутера/оператора

Для команд с мульти-провайдерным роутингом это не решение «выбрать один вариант и забыть». Оно затрагивает три операционных слоя:

Fallback-политика. Отсутствие серверного fallback на bedrock-mantle означает, что клиентская оркестрация fallback обязательна для latency-чувствительного или availability-критичного трафика. Если запрос Fable 5 падает на Bedrock, шлюз должен перехватить, сделать retry и отработать fallback на другой эндпоинт Claude или другую модель — Bedrock не сделает этого за вас. Именно здесь роутинговый слой с fallback-цепочками для каждой модели приносит реальную ценность.

Роутинг по стоимости и квотам. Квота в 2 миллиона TPM по умолчанию на Bedrock щедрая, но ограниченная. Команды с высокопроизводительным инференсом должны направлять переполнение в прямой Anthropic API или использовать глобальный эндпоинт Bedrock (автоматически распределяет нагрузку между регионами). 10%-ная региональная надбавка означает, что cost-aware роутер должен различать latency-оптимизированный глобальный роутинг и региональный роутинг по compliance-требованиям.

Диспетчеризация на основе функциональности. Если рабочая нагрузка использует серверные инструменты, MCP connector или Agent Skills, bedrock-mantle не справится. Роутинговый слой, который анализирует возможности запроса и диспетчеризирует соответственно — чистый инференс идёт в Bedrock, tool-augmented workflow идёт в прямой API — предотвращает runtime-ошибки, которые иначе проявляются как непрозрачные 400-е ответы.

Выбор пути аутентификации также влияет на governance. Bearer tokens — наименее предпочтительный вариант (краткосрочный, без долгоживущего ключа). IAM assumed roles дают 12-часовые федеративные сессии. Service role Bedrock — самый безопасный вариант для персистентной инфраструктуры. Команды должны встроить свою стратегию аутентификации в роутинг-политику, а не оставлять её на уровне приложения.

На что обратить внимание пользователям TheRouter

Если вы маршрутизируете трафик Claude и в настоящее время используете один эндпоинт — сейчас подходящий момент для оценки многоэндпоинтовой стратегии. Конкретные шаги:

1. Аудит рабочих нагрузок Claude. Отделите чистый инференс-трафик (промпты на входе, комплишены на выходе) от tool-augmented трафика (MCP, code execution, агентские workflow). Только первая категория подходит для bedrock-mantle.

2. Проверьте fallback-цепочки. Если вы в настоящее время делаете fallback с Anthropic API на Bedrock или наоборот, убедитесь, что целевой эндпоинт fallback поддерживает функции, используемые вашей рабочей нагрузкой. Fallback на bedrock-mantle для запроса, которому нужны серверные инструменты, приведёт к жёсткой ошибке.

3. Пересмотрите стратегию аутентификации. Если вы всё ещё используете bearer tokens на Bedrock, обновитесь до IAM assumed roles или service role. Bearer token-путь официально документирован как наименее предпочтительный и добавляет операционную хрупкость.

4. Следите за разрывом в функциональности. В документации Anthropic теперь есть чёткая таблица «поддерживается / не поддерживается» для bedrock-mantle. Отслеживайте её — по мере сокращения разрыва со стороны Anthropic, всё больше рабочих нагрузок станут доступны для AWS-управляемого пути, что сдвигает расчёты при роутинге.

5. Протестируйте региональную надбавку в вашей cost-модели. 10%-ная региональная надбавка — новое явление. Если вы делаете глобальный роутинг, глобальный эндпоинт без надбавки, скорее всего, правильный дефолт; региональный роутинг добавляйте только для compliance-обязательного трафика.

Источники документации: Claude in Amazon Bedrock и анонс в блоге AWS.