Claude Sonnet 5 排除在 Priority Tier 之外:延迟敏感型路由团队面临的服务层级分叉

Claude Sonnet 5 不支持 Priority Tier,且 Priority Tier 已停止新购。依赖延迟 SLA 的团队面临路由抉择:在旧模型上保留 Priority Tier,还是以 standard tier 级 SLA 迁移至 Sonnet 5。

发布于 来源 Anthropic

归档条目:由 AI 根据所引信源辅助生成,发布时未经逐篇审阅。责任编辑:Joe Werner。

抽象路由示意图,展示 Claude Sonnet 5 流量在 priority tier 路径与 standard tier 路径之间的分叉决策

Anthropic 在 6 月 30 日发布 Claude Sonnet 5 后,大量报道聚焦于基准测试和新 tokenizer。然而,多数路由团队忽略了一个关键细节:Sonnet 5 被明确排除在 Priority Tier 之外,且 Priority Tier 已停止向新用户开放购买。依靠 Priority Tier 容量承诺来保障延迟 SLA 的团队,在 8 月 31 日之前必须做出路由决策。

发生了什么

Anthropic 的 service tiers 文档 现在带有警告:「Priority Tier 容量承诺不再对外销售。」持有现有承诺的组织可继续使用至合同到期;新用户无法再购买 Priority Tier 访问权限。

更直接的是,现有 Priority Tier 承诺下的支持模型表中明确列出了排除项:

Priority Tier 支持所有可用的 Claude 模型(包括 Claude Fable 5 和 Claude Opus 4.8),Claude Sonnet 5、Claude Mythos Preview 和 Batch tier 模型除外。

这意味着,当前在 Priority Tier 承诺下将延迟敏感流量路由至 claude-sonnet-4-6 的团队,不能简单地将模型替换为 claude-sonnet-5 来保留 tier 保护。Sonnet 5 请求将直接回落至 standard tier,无论已承诺的容量余量如何。

对 AI 工程团队的影响

Priority Tier 是 Anthropic 提供的唯一一种减少高峰期「server overloaded」错误的机制。 该 tier 通过为每分钟的输入和输出 token 预留容量来运作。当承诺容量可用时,请求会优先于 standard tier 流量处理;容量耗尽后自动回落到 standard tier。

没有 Priority Tier,Sonnet 5 流量的 fallback 选项包括:

  1. 接受 standard tier SLA — 尽力而为的可用性,流量峰值时无过载保护。
  2. 将延迟敏感请求路由至 Opus 4.8 或 Fable 5 并使用现有 Priority Tier 承诺,同时以 standard tier 处理优先级较低的 Sonnet 5 流量。
  3. 使用多 provider fallback — 配置备用 provider 路由,使 Sonnet 5 的 overloaded 错误自动切换到备用端点。

对于无法购买新 Priority Tier 容量的团队来说,方案 3 是最简洁的路径,而这正是 gateway 层路由策略所擅长实施的。

Router/Operator 视角

Priority Tier 缺失与 Sonnet 5 的另外两个限制叠加,共同构成 operator 需要综合建模的风险:

1. Tokenizer 膨胀系数。 Sonnet 5 使用新 tokenizer,同等输入文本产生的 token 数量约多 30%。单 token 定价不变,但单次请求成本并非不变 — 相同 prompt 处理时消耗更多 token。我们此前的分析 对此有详细说明;简言之,以 Sonnet 4.6 为基准的成本预算可能低估 Sonnet 5 的实际支出 20–35%,具体取决于工作负载特征。

2. 8 月 31 日定价断崖。 Anthropic 为 Sonnet 5 设定了引入期定价:$2 / $10(输入/输出,每百万 token),有效期至 2026 年 8 月 31 日。从 9 月 1 日起恢复标准定价 $3 / $15。如果路由层基于成本阈值选择模型,Sonnet 5 在整个夏季之后的实际成本将与当前显著不同。

三重约束 — 无 Priority Tier、约 30% token 膨胀、9 月定价上调 — 意味着 Sonnet 5 迁移的真实成本与延迟画像在 Q4 将与当前截然不同。在此之前进行任何路由策略审查的团队,都需要将 9 月定价纳入压力测试。

Priority Tier 缺失的路由决策框架

以下是针对 Sonnet 5 Priority Tier 排除问题的实用决策树:

如果您持有现有 Priority Tier 承诺:

  • 继续将延迟敏感工作负载路由至承诺覆盖的模型(Fable 5、Opus 4.8、Sonnet 4.6)。
  • 对可接受偶发 overload retry 的工作负载,以 standard tier 路由 Sonnet 5。
  • 不要假设承诺容量覆盖 Sonnet 5 — 通过检查 API 响应中的 usage.service_tier 字段来验证排除情况。

如果您没有 Priority Tier 承诺:

  • Priority Tier 已停止对外销售。提升过载弹性的唯一路径是 fallback 路由。
  • 将 Sonnet 5 路由设计为在收到 overloaded 错误时自动切换至备用 provider 或模型。
  • 监控 anthropic-priority-input-tokens-remaining 响应头 — 该响应头在 Sonnet 5 请求中缺失,确认您处于 standard tier。

8 月 31 日之前:

  • 在引入期定价内锁定 Sonnet 5 路由策略。任何将 Sonnet 5 视为与 Sonnet 4.6 成本等价的路由规则,在 9 月 1 日后都将失效。
  • 在设置 max_tokens 限制和单次请求成本上限时,计入 tokenizer 膨胀系数。

TheRouter 用户需要关注的内容

如果您通过 model gateway 路由 Sonnet 5 流量,请审查 API 响应中的 service_tier 字段以确认 Sonnet 5 请求处理方式。service_tier: "standard" 响应对 Sonnet 5 而言是预期且正确的结果 — 任何期望 Sonnet 5 请求返回 "priority" 的路由策略都应立即更新。

对于 fallback 配置,为 Sonnet 5 的 overloaded 响应添加备用 provider 路径,是最接近 Priority Tier 容量保护的替代方案。请访问 TheRouter 文档 了解模型 fallback 链的配置指南。

本文涉及的模型

帮助与联系