高可用性
供应商宕机时,AI 依然畅通
TheRouter 为 AI 请求提供多供应商故障转移。当 Anthropic、OpenAI 或 Bedrock 发生故障时,TheRouter 自动路由至下一个健康供应商,包括硅基流动(中国区)。无需修改代码,实时健康检查,优先级路由确保始终使用最佳供应商。
TheRouter 跨 Anthropic、OpenAI、Bedrock、Vertex AI、xAI 和硅基流动进行实时健康检查。当任一供应商宕机时,请求自动切换至下一个健康路由,用户无感知。
故障转移架构
您的应用
│
▼
┌───────────────────────────────────┐
│ api.therouter.ai/v1 │
│ │
│ ┌────────────────────────────┐ │
│ │ 路由选择器 │ │
│ │ 优先级 0: Bedrock │───┼──▶ AWS Bedrock (us-east-2)
│ │ 优先级 1: 硅基流动 │───┼──▶ 硅基流动 (阿里云)
│ │ 优先级 0: Anthropic │───┼──▶ Anthropic API
│ │ 优先级 0: OpenAI │───┼──▶ OpenAI API
│ │ 优先级 0: Vertex AI │───┼──▶ Google Vertex AI
│ └────────────────────────────┘ │
│ │
│ 实时健康检查 │
│ 故障路由 → 跳过 + 告警 │
└───────────────────────────────────┘
│
▼
标准化响应
(统一的 model 字段,
finish_reason,响应结构)