Все статьи

Альтернативы OpenRouter 2026: сравнение LLM-шлюзов для разработчиков

Сравниваем главные альтернативы OpenRouter в 2026 году — LiteLLM, Portkey, Cloudflare AI Gateway и TheRouter — по ценообразованию, покрытию моделей, fallback-маршрутизации, совместимости с OpenAI SDK и возможностям self-hosted развёртывания.

· TheRouter

Если вы оцениваете альтернативы OpenRouter в 2026 году, скорее всего, вы столкнулись с одной из трёх проблем: комиссия 5,5 % при масштабировании становится ощутимой статьёй расходов, вам нужен self-hosted шлюз для соответствия требованиям регуляторов, или вы хотите более тонкого контроля над fallback-маршрутизацией, чем даёт managed multi-provider endpoint. Мы прошли через ту же оценку, поэтому собрали конкретное сравнение пяти шлюзов, которые чаще всего встречаются при поиске замены OpenRouter.

OpenAI-совместимость означает, что провайдер предоставляет endpoint chat-completions, чей контракт запроса и ответа достаточно близок к API OpenAI, чтобы немодифицированный вызов OpenAI SDK работал после замены трёх значений: API key, base URL, название модели. Минимальная поверхность на практике —POST /v1/chat/completions с messages, model и потоковым ответом в форме OpenAI.

Сводная таблица

ФункцияOpenRouterLiteLLMPortkeyCloudflare AI GatewayTheRouter
РазвёртываниеТолько managedSelf-hosted (OSS) или EnterpriseManaged + OSS-шлюзManaged (Cloudflare edge)Managed
Модель ценообразованияТарифы провайдеров + 5,5 % комиссияБесплатно (OSS); Enterprise по годовой ёмкостиFree → $49/мес Production → Enterprise customЯдро бесплатно; $5/мес Workers Paid для увеличенных лимитов логовПо использованию
Совместимость с OpenAI SDKДа (/api/v1/chat/completions)Да (drop-in proxy)Да (Universal API)Да (перезапись URL через префикс)Да (маршрутизация OpenAI-совместимых запросов)
Число провайдеров50+100+ (настраиваете сами)250+ (через virtual keys)Любой (перезапись URL, без привязки к провайдеру)Настроенные провайдеры
Fallback-маршрутизацияroute: 'fallback' + массив modelYAML-конфигурация fallbackАвтоматический fallback в конфигурации шлюзаВручную (логика в Worker)Поддерживается при наличии live product paths
Self-hostedНетДа (основной продукт)Да (OSS-шлюз)Нет (только Cloudflare edge)Нет
ObservabilityДашборд + API использованияPrometheus-метрики, логи запросов/ответовЛоги, traces, feedback, custom metadataАналитика дашборда, persistent logsЕдиный биллинг / учётные панели
Бесплатный уровень28+ бесплатных моделей, 20 RPMБез ограничений (self-hosted)10k записанных логов/мес, 3 дня хранения100k логов всего (Free plan)N/A

Источники: документация OpenRouter (получено 2026-07-29), ценообразование LiteLLM (получено 2026-07-29), ценообразование Portkey (получено 2026-07-29), ценообразование Cloudflare AI Gateway (получено 2026-07-29).

Почему разработчики ищут альтернативы OpenRouter

OpenRouter решил реальную проблему: один API key, множество моделей, без отдельных аккаунтов у каждого провайдера. Но три паттерна заставляют команды искать замену:

Расходы при масштабировании. OpenRouter берёт тарифы провайдеров плюс 5,5 % комиссию при покупке кредитов. При малых объёмах это незаметно. При 10M+ токенов в месяц комиссия превращается в отдельную строку бюджета — особенно когда у вас уже есть прямые API-ключи провайдеров.

Контроль развёртывания. Регулируемые отрасли, требования к резидентности данных и air-gapped окружения требуют self-hosted шлюзов. OpenRouter — только managed; self-hosted варианта нет.

Гранулярность маршрутизации. OpenRouter fallback через route: 'fallback' с массивом model покрывает базовый сценарий. Командам, которым нужна взвешенная балансировка нагрузки, маршрутизация по стоимости, выбор по latency или провайдер-специфичные retry-политики, этого не хватает.

Ни одна из этих проблем не критична для всех. Если покрытие моделей и managed-удобство OpenRouter подходят под вашу нагрузку, это по-прежнему хороший выбор. Сравнение ниже — для команд, у которых одно из этих ограничений стало блокирующим.

Детально: модели ценообразования и бесплатные уровни

OpenRouter

OpenRouter передаёт per-token тарифы провайдеров без собственной наценки на токен. Платформа берёт 5,5 % при покупке кредитов (минимум $0,80 за покупку). При использовании BYOK (собственных ключей) — отдельная комиссия 5 %. Бесплатный уровень даёт доступ к 28+ бесплатным моделям с лимитом 20 RPM и 50–1 000 запросов в день в зависимости от модели.

Источник: OpenRouter pricing blog (получено 2026-07-29).

LiteLLM

Открытый proxy LiteLLM бесплатен для self-hosted развёртывания навсегда — без лицензионной платы, без per-token комиссии. Вы настраиваете собственные API-ключи провайдеров в YAML-файле. Enterprise-уровень добавляет SSO, SCIM, аудит-логи, интеграцию с менеджерами секретов, мультирегиональную control plane и поддержку 24/7. Ценообразование Enterprise основано на годовой ёмкости запросов шлюза и архитектуре развёртывания, никогда не per token.

Источник: ценообразование LiteLLM (получено 2026-07-29).

Portkey

Portkey предлагает бесплатный Developer-уровень (10 000 записанных логов в месяц, 3-дневное хранение). Production-уровень стоит $49 в месяц и включает 100 000 записанных логов, 30-дневное хранение, LLM guardrails, неограниченные prompt-шаблоны и RBAC. Enterprise — кастомное ценообразование от 10M+ записанных логов в месяц с кастомными сроками хранения, SSO, private cloud развёртыванием и SOC2/GDPR/HIPAA. Превышение лимита логов не блокирует запросы — только логи сверх лимита не записываются.

Источник: ценообразование Portkey (получено 2026-07-29).

Cloudflare AI Gateway

Базовые функции Cloudflare AI Gateway — аналитика дашборда, кэширование и rate limiting — бесплатны на всех планах. Хранение логов зависит от плана Cloudflare Workers: 100 000 логов на Free-плане, 10 000 000 логов на gateway при Workers Paid за $5/мес. Unified Billing (покупка кредитов провайдеров через Cloudflare) — комиссия 5 % на покупки; inference-тарифы провайдеров передаются без наценки. Guardrails используют Llama Guard 3 на Workers AI и тарифицируются как Workers AI inference.

Источник: ценообразование Cloudflare AI Gateway (получено 2026-07-29).

TheRouter

TheRouter маршрутизирует OpenAI-совместимые запросы через настроенных провайдеров и предоставляет единый биллинг и учётные панели. Ценообразование — по использованию.

Детально: покрытие моделей и широта провайдеров

OpenRouter агрегирует 50+ провайдеров и сотни моделей за одним API key. Вам не нужны отдельные аккаунты у провайдеров — OpenRouter управляет credentials. Компромисс: доступность моделей зависит от скорости интеграции OpenRouter; новые модели могут отставать от запуска у провайдера на часы или дни.

LiteLLM поддерживает 100+ провайдеров, но вы предоставляете собственные API-ключи. Покрытие настолько широко, насколько позволяют ваши контракты с провайдерами. LiteLLM поддерживает таблицу стоимости моделей, которая отслеживает цены для поддерживаемых моделей, позволяя вести учёт расходов по провайдерам без ручной настройки.

Portkey заявляет о 250+ интеграций с провайдерами через Universal API. Как и в OpenRouter, можно использовать managed-ключи Portkey или собственные. Virtual keys абстрагируют credentials провайдеров на уровне шлюза.

Cloudflare AI Gateway по дизайну не привязан к провайдеру — он перезаписывает URL на edge. Вы направляете его на endpoint любого провайдера, Cloudflare проксирует запрос. Это значит, что он работает с любым провайдером, принимающим HTTP-запросы, но все отношения с провайдерами вы ведёте сами.

TheRouter маршрутизирует запросы через настроенных провайдеров с поддержкой маршрутизации моделей и fallback. Покрытие провайдеров определяется настроенной таблицей маршрутизации.

Детально: fallback-маршрутизация и надёжность

Fallback-маршрутизация — автоматический повтор запроса на другом провайдере или модели при сбое основного — главная функция, отличающая шлюз от простого API proxy.

OpenRouter поддерживает fallback через массив models с route: 'fallback'. Если первая модель возвращает ошибку, OpenRouter пробует следующую из массива. Это покрывает базовый сценарий «основная модель недоступна, пробуем резервную». Предпочтения маршрутизации по провайдерам задаются через параметр provider.

from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key="sk-or-...",
)

response = client.chat.completions.create(
    model="openai/gpt-4o",
    messages=[{"role": "user", "content": "Hello"}],
    extra_body={
        "models": ["openai/gpt-4o", "anthropic/claude-sonnet-4", "google/gemini-2.5-flash"],
        "route": "fallback",
    },
)

LiteLLM поддерживает fallback-списки, retry и timeout в конфигурации proxy. Вы задаёте fallback-модели в YAML-конфиге, настраиваете число повторов и пороги timeout. Поскольку развёртывание self-hosted, вы контролируете логику retry, включая провайдер-специфичные retry-политики и circuit breaker через custom callbacks.

model_list:
  - model_name: gpt-4o
    litellm_params:
      model: openai/gpt-4o
      api_key: sk-...
  - model_name: gpt-4o
    litellm_params:
      model: anthropic/claude-sonnet-4
      api_key: sk-ant-...

litellm_settings:
  num_retries: 3
  request_timeout: 30

Portkey предоставляет автоматические fallback, балансировку нагрузки, retry и timeout через конфигурацию шлюза. Целями fallback могут быть разные провайдеры, модели или даже разные virtual keys Portkey. Шлюз обрабатывает решения о маршрутизации на edge.

Cloudflare AI Gateway не включает встроенную fallback-маршрутизацию. Fallback-логику необходимо реализовать в Cloudflare Worker перед шлюзом — полный контроль, но больше кода.

TheRouter поддерживает маршрутизацию провайдеров/моделей и fallback при наличии live product paths.

Детально: глубина совместимости с OpenAI SDK

Все пять шлюзов принимают запросы в формате OpenAI. Различия — в глубине поддержки полной API-поверхности OpenAI:

ВозможностьOpenRouterLiteLLMPortkeyCloudflare AI GatewayTheRouter
Chat completionsДаДаДаДа (pass-through)Да
StreamingДаДаДаДаДа
Tool callingДа (трансформация для не-OpenAI провайдеров)Да (маппинг между провайдерами)ДаДа (pass-through)Да
Structured output / response_formatДаДаДаДа (pass-through)Да
EmbeddingsДаДаДаДа (pass-through)Да
Генерация изображенийДаДаДаДа (pass-through)Через /v1/jobs/:id для async media jobs

Практический тест: можно ли просто сменить base_url в клиенте OpenAI SDK и всё заработает? Для chat completions и streaming — да, у всех пяти. Для продвинутых функций — провайдер-специфичных параметров, сохранения полей ответа, обработки edge-case ошибок — тестируйте с вашими конкретными моделями.

Детально: self-hosted vs managed развёртывание

Это самое резкое различие:

Self-hosted варианты:

  • LiteLLM — основной продукт — self-hosted proxy. Развёртывание через Docker, Kubernetes или bare metal. Air-gapped развёртывание доступно на Enterprise. Ваши данные и API-ключи не покидают вашу инфраструктуру.
  • Portkey — предлагает open-source шлюз для self-hosted с Universal API, retry, routing, guardrails и базовым дашбордом. Полный набор функций (продвинутые guardrails, governance, SSO) требует managed-платформы или Enterprise self-hosted развёртывания.

Только managed:

  • OpenRouter — без self-hosted варианта. Весь трафик проходит через инфраструктуру OpenRouter.
  • Cloudflare AI Gateway — работает на edge-сети Cloudflare. Self-hosted версии нет, но API-ключи провайдеров хранятся в вашем аккаунте Cloudflare.
  • TheRouter — managed-сервис.

Если резидентность данных или air-gapped развёртывание — жёсткое требование, LiteLLM — наиболее подходящий вариант. Если нужно managed-удобство с возможностью отката, OSS-шлюз Portkey — промежуточное решение.

Матрица решений: нужно X — выбирайте Y

Если вам нужно…Рассмотрите
Самый быстрый старт, без аккаунтов у провайдеров, максимальное покрытие моделейOpenRouter — один API key, 50+ провайдеров, бесплатные модели
Self-hosted шлюз, полный контроль инфраструктуры, нулевые платформенные сборыLiteLLM — бесплатный OSS proxy, 100+ провайдеров, ваши ключи
Managed-шлюз с observability, guardrails и prompt managementPortkey — $49/мес Production покрывает большинство потребностей команд
Edge-кэширование, DLP-сканирование, интеграция с экосистемой CloudflareCloudflare AI Gateway — ядро бесплатно, оплата за объём логов
OpenAI-совместимая маршрутизация с fallback провайдеров и единым биллингомTheRouter — маршрутизация запросов через настроенных провайдеров с поддержкой fallback

Как вписывается TheRouter

TheRouter маршрутизирует OpenAI-совместимые запросы через настроенных провайдеров. Когда вы направляете OpenAI SDK на endpoint TheRouter, он выполняет выбор провайдера и fallback-маршрутизацию (при поддержке live product paths). Единый биллинг и учётные панели дают единое представление расходов по провайдерам.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.therouter.ai/v1",
    api_key="your-therouter-key",
)

response = client.chat.completions.create(
    model="openai/gpt-4o",
    messages=[{"role": "user", "content": "Hello"}],
)

Переход с OpenRouter (или любого OpenAI-совместимого шлюза) — это замена base_url и api_key. Без смены SDK, без изменения формата запросов.

Для более полного сравнения шлюзов с акцентом на архитектуру и observability см. наше сравнение Unified LLM API Providers and Gateway 2026.

Частые вопросы

Комиссия OpenRouter 5,5 % — per-token или per-purchase? Per-purchase. OpenRouter передаёт per-token тарифы провайдеров без собственной наценки на токен. 5,5 % взимаются при покупке кредитов (минимум $0,80 за покупку). При BYOK — отдельная комиссия 5 %. Источник: OpenRouter pricing (получено 2026-07-29).

Можно ли использовать LiteLLM полностью бесплатно? Да. Open-source proxy бесплатен для self-hosted развёртывания навсегда, без лицензионных сборов. Вы платите только за API-использование провайдеров. Enterprise добавляет governance, SSO и поддержку поверх того же шлюза, с ценообразованием по годовой ёмкости запросов. Источник: ценообразование LiteLLM (получено 2026-07-29).

Cloudflare AI Gateway добавляет наценку к per-token ценам провайдеров? Нет. Inference-тарифы провайдеров передаются без наценки. Unified Billing Cloudflare берёт 5 % при покупке кредитов (аналогично модели OpenRouter). Базовые функции шлюза бесплатны. Источник: ценообразование Cloudflare AI Gateway (получено 2026-07-29).

Какой шлюз лучше всего подходит для прототипирования (бесплатный уровень)? Managed: OpenRouter (28+ бесплатных моделей) или Cloudflare AI Gateway (бесплатная аналитика, кэширование, rate limiting). Self-hosted: LiteLLM (без ограничений, бесплатно навсегда). Бесплатный уровень Portkey покрывает 10k записанных логов в месяц.

Можно ли мигрировать с OpenRouter на другой шлюз без изменения кода приложения? В большинстве случаев да. Все пять шлюзов поддерживают формат OpenAI chat completions. Миграция обычно сводится к замене base_url и api_key. Идентификаторы моделей могут отличаться между шлюзами — проверьте список моделей целевого шлюза перед миграцией. См. наше руководство по миграции с OpenAI на TheRouter для пошагового процесса.


Источники, цитируемые в этом посте: документация OpenRouter API, OpenRouter free LLM APIs comparison, ценообразование LiteLLM, LiteLLM GitHub, ценообразование Portkey, ценообразование Cloudflare AI Gateway, обзор Cloudflare AI Gateway. Все получены 2026-07-29.

Поддержка