Теги

Новости по тегу "operator-ops"

RSS-лента
Схема маршрутизации: вызовы моделей слева и multi-runtime agent-сессии справа, объединённые через единый gateway — control plane

AI Gateway поднимается на уровень выше: от маршрутизации моделей к маршрутизации agent-сессий

Команда LiteLLM сформулировала структурный сдвиг: AI gateway больше не просто маршрутизатор вызовов моделей — он превращается в control plane для agent-сессий через Claude Managed Agents, Bedrock AgentCore и Vertex. Разбираем, что это значит для вашей архитектуры маршрутизации.

источник LiteLLM Engineering
Помощь и контакты