OpenAI Fast 模式与 GPT-5.6 降价:路由团队现在必须改变的配置
Priority Processing 更名为 Fast 模式,GPT-5.6 Luna 降价 80%,Terra 降价 20%——流量加速限制意味着批处理作业可能悄然降级为标准速度。

7 月 30 日,OpenAI 对其 API 做出了三项相互关联的变更,大多数团队会在不同的地方注意到它们:Priority Processing 更名为 Fast 模式,GPT-5.6 Luna 降价 80%,Terra 降价 20%。公告中没有明说的是,这三项变更相互影响——对于运行路由层或多项目 API 架构的团队来说,配置错误意味着要么多付钱,要么在最关键的时刻悄然降级到标准速度。
7 月 30 日发生了什么
Priority Processing 更名为 Fast 模式。 旧的 service_tier: "priority" 参数现在有了一个别名:service_tier: "fast"。两个值均可用于 Responses API 和 Chat Completions API,行为完全相同。响应对象的 service_tier 字段仍然返回 priority,即使你发送的是 fast——这适用于 GPT-5.6 及更早的模型。此变更向后兼容,不改代码也不会出问题。但你现在需要在路由配置中做出语义选择。
GPT-5.6 Luna:降价 80%。 Luna 本就是 GPT-5.6 系列中成本最低的层级。此次降价后,它成为 OpenAI 迄今为止为前沿生成模型提供的最具性价比的选项。对路由团队而言,决策的关键是 Luna 的能力上限是否适合你的工作负载——而不仅仅是它是否更便宜。
GPT-5.6 Terra:降价 20%。 Terra 定位为 Luna 吞吐量与 Sol 能力之间的均衡层级。20% 的降价使其成为此前因成本而不得不选 Sol 的工作负载的更好默认选项。
GPT-5.6 Sol 搭配 Fast 模式:速度最高达标准模式的 2.5 倍。 Sol 的 Fast 模式现在以 2 倍 token 价格提供约 2.5 倍的标准速度。对于本就在承受 Sol 层级定价的延迟敏感型流水线,这一比例(2 倍成本换 2.5 倍速度)相当划算。
运营商最容易忽略的流量加速限制
Fast 模式引入了一个流量加速限制(ramp rate limit),标准处理模式没有这个限制。如果你的项目每分钟发送至少 100 万 token,且在 15 分钟内增幅超过 50%,OpenAI 可能会将受影响的 Fast 模式请求降级为标准速度——并按标准费率收费。
发生这种情况时,响应中的 service_tier 字段会返回 "default" 而非 "priority"。如果你没有记录和检查响应中的 service_tier,你将完全不知道降级已经发生,直到发现延迟激增或事后审计成本时才察觉。
这会造成以下具体问题:
- 流量峰值期间的隐性性能回退。 同时扇出的 agent swarm、一次性启动的批处理流水线、或加速过快的压测——任何一种都可能触发降级。如果你的路由层假设 Fast 模式始终快速,下游 SLA 就会变得不可靠。
- ETL 和批处理作业不能使用 Fast 模式。 OpenAI 文档明确指出了这一点。在大规模批量处理中使用 Fast 模式既浪费溢价,又是最容易触发流量加速限制的工作负载类型。
- 分阶段启用 Fast 模式。 在项目级启用 Fast 模式时,应在数小时内逐步迁移流量,而不是一次性切换。
路由/运营商视角
项目级与请求级 Fast 模式配置。 Fast 模式可以在请求级别(每次调用设置 service_tier: "fast")或通过平台控制台在项目级别设置。项目级别虽然方便——未指定 tier 的请求默认使用 Fast——但会失去逐请求的细粒度控制。对于通过单个项目路由多种工作负载类型的团队,这是一个配置陷阱:批处理作业、后台索引和面向用户的实时调用,各自需要不同的 service tier 策略。
此次变更后的正确路由设置:
- 面向用户的延迟敏感型调用(chat completion、agent turn、代码补全):在请求级别显式设置
service_tier: "fast"。 - 后台、批处理、ETL 工作负载:显式设置
service_tier: "default"。绝不在大吞吐量规模下对这类工作负载使用 Fast 模式。 - 路由选择器评估模型和工作负载类型,在转发给 OpenAI 之前注入
service_tier。
降价后重新评估模型选择。 Luna 降价 80% 显著拉大了 GPT-5.6 系列内部的成本差距。对于那些在 Sol 质量和 Luna 预算之间折中选择 Terra 的工作负载,现在值得重新针对 Luna 运行评估。Luna 和 Terra 之间的能力差距可能已经无法证明维持当前价格差的合理性。
跨 provider 视角:三家 provider 如何解决同一个容量问题。 OpenAI 的流量加速限制是基于变化速率的:你可以无限期地保持高吞吐量,但不能在 15 分钟内将流量增加超过 50%。DeepSeek 的峰值时段定价是基于时段的:无论流量是否激增,高峰期成本都会上涨。Anthropic 的 fast mode 则因给运营商带来双重故障模式而被直接废弃。每家 provider 用不同的方式解决相同的容量管理问题——你的路由策略需要针对每个上游编码正确的规则,不能假设它们行为一致。
在响应日志中添加 service_tier 字段。 从 priority 到 fast 的向后兼容更名,正是审查响应解析逻辑的好时机。如果你的日志层没有捕获响应中的 service_tier,就无法检测到流量加速降级。需要关注的信号:在你发送 "fast" 或 "priority" 的请求响应中出现 "default"。
TheRouter 用户应关注和尝试的内容
立即执行的审查清单:
- 检查你的 OpenAI 项目中是否有任何项目在项目级别设置了 Project Service Tier 为 Fast。若有,确认没有批处理或 ETL 流水线通过这些项目运行。
- 将
service_tier加入响应字段捕获,并在期望"fast"时出现"default"时发出告警。 - 针对当前 Terra 工作负载重新运行 Luna 的能力评估。80% 的价格差距已足够大,值得做一次新的 benchmark。
- 对于面向用户工作负载上 Sol 搭配 Fast 模式的场景,在生产环境分布中实测延迟改善效果,再决定是否值得支付 2 倍的价格溢价。
TheRouter 的按路由配置支持将 service_tier 作为参数附加到每个模型分配上。此次变更后推荐的配置模式:面向同步用户请求的路由使用 Sol 搭配 service_tier: fast;对于任何可能超过每分钟 100 万 token 的批处理路径,使用 Luna 或 Terra 搭配 service_tier: default。
相关阅读
AI 路由新闻与供应商动态 →
OpenAI Fast Mode 打开长上下文限制:路由团队现在要做哪些判断
GPT-5.6 Sol、Terra 和 Luna 的 Fast mode 现在支持超过 272K token 的请求,迫使大上下文工作负载走 Standard tier 的历史结束了,但 ramp rate limit 仍然存在。

2026年AI成本上涨:GitHub Copilot账单冲击印证路由的价值
GitHub Copilot 6月1日正式切换令牌计费,真实账单已经来了——部分用户反映预计费用从此前的$39-$44固定月费飙升至$754-$847。这就是2026年5月定价变革在生产环境中的真实面貌,也是路由架构至关重要的原因。

OpenAI Prompt Cache Diagnostics 正式发布:网关层不能随意丢弃的字段
OpenAI 的 Prompt Cache Diagnostics 工具在 Responses API 正式发布,新增 comparison_response_id 和 reason 字段用于定位缓存未命中原因。若网关层剥离 prompt_cache_options,诊断信号会静默丢失。