标签

带有标签 "gateway" 的新闻

RSS 订阅
编辑风格插图,展示分叉的 API 路由路径,其中标有 agents sessions 的分支偏离主网关,背景为低饱和深色调

OpenAI Agents API 公测:网关运营商需要正视的新绕道路径

OpenAI 的 Agents API 公测版引入了 client.beta.agents 这个独立命名空间,它根本不经过 /v1/chat/completions。对于通过 AI 网关路由流量的团队来说,这意味着账单盲区、缺失的审计记录,以及一个需要单独管理的 API key 权限范围。

来源 OpenAI
路由图示:左侧为模型调用,右侧为多 runtime 的 agent 会话,通过统一的 gateway 控制平面连接

AI Gateway 正在升维:从模型路由到 Agent 会话路由

LiteLLM 工程团队提出了一个结构性转变:AI gateway 不再只是模型调用路由器,而正在演变为跨 Claude Managed Agents、Bedrock AgentCore 和 Vertex 的 agent 会话控制平面。本文解析这对你的路由架构意味着什么。

来源 LiteLLM Engineering
帮助与联系