OpenAI 的「每美元有效智能」评分框架：每位 AI 网关运营者需要的路由策略清单

你的路由策略很可能优化的是错误的指标——每 token 成本。OpenAI 在 7 月 17 日明确提出了这一观点，发布了一份面向 CFO 的评分框架，将 AI 价值评估重新定义为「每美元有效智能（Useful Intelligence per Dollar）」。对于运营 AI gateway 的团队来说，影响是直接且具体的：你的路由逻辑需要跟上这一变化。

OpenAI 发布了什么

该评分框架引入了四个用于评估 AI ROI 的维度：

1. 完成的有效工作 —— 达到可接受质量标准的任务数量，而非消耗的 token 数。
2. 每次成功任务的成本 —— 达到正确结果的完整成本（模型价格 + 重试次数 + 延迟 + 人工复核时间），而非每 token 成本。
3. 可依赖率（Dependability Rate） —— 输出结果中「可直接使用」与「需要修正」或「需要人工介入」的比例。
4. 规模化价值 —— 随着模型、基础设施与路由持续改进，每一美元 AI 支出能否换来更多工作成果。

OpenAI 利用这一框架来定位 GPT‑5.6 的分级产品族（Sol/Terra/Luna）作为路由决策的依据：Sol 适用于强推理可减少重试的工作流，Terra 适用于性能与吞吐量均衡的场景，Luna 适用于 token 成本占主导地位的高并发任务。其核心论点是：只有在充分计入失败率与重试开销之后，「更便宜」的模型才真正更便宜。

为何对 AI 工程团队至关重要

这一框架印证了经验丰富的路由运营者长期心知肚明、却鲜少正式度量的事实：模型路由必须以结果为导向，而非仅凭价格驱动。

仅基于 token 成本构建的路由策略，在高价值工作流中会低估高能力模型的优势（一次正确答案的价值远超五次廉价失败），而在简单高并发任务中又会过度使用昂贵模型。

这意味着工程团队需要做出几项具体改变：

• 按路由追踪完成率，而非仅追踪延迟和成本。 如果一条便宜路由的失败率为 20% 且需要重试，其实际成本已经是标称成本的 1.2 倍，再加上延迟和用户体验损耗。
• 按重试敏感度对工作流进行分段。 客服问题解决、代码生成与合同审核的重试成本特征各不相同。路由策略应将这些差异编码进去，而非对所有任务一视同仁。
• 将「人工升级率（escalation rate）」作为路由信号。 如果某条路由频繁触发人工介入，说明其在可依赖性维度上表现不足——应路由至更强的模型层级，或标记进行评测。

路由与运营视角

OpenAI 的评分框架是写给 CFO 看的，但对路由运营者而言却是一份礼物——它为你提供了用财务语言向决策层解释模型分级路由决策的框架。

换算成 gateway 运营的语言：

实际结论是：不从结果数据反馈的路由策略，从第一天起就是过时的。 每个 gateway 都需要一种机制，将请求级成本与下游结果信号相关联——哪怕只是一个简单的「本次请求是否触发了重试？」标记，也能启动这个反馈循环。

OpenAI 将「更智能的路由」定位为算力 ROI 的驱动力，并非偶然。这一表述传递出一个信号：公司预期路由层面的差异化——跨模型层级、跨 provider、跨推理配置——将成为企业 AI 经济性的核心杠杆。

值得关注的动态

• GPT‑5.6 层级选择。 如果你正在路由到 OpenAI，Sol/Terra/Luna 分级要求明确的模型选择策略。尽管 Luna 成本更低，但对于代码生成场景来说并不是安全的默认选项——Sol 的低重试率在「每次成功任务成本」指标上往往更胜一筹。
• 评测驱动路由（Eval-Driven Routing）。 评分框架中对可依赖性的定义，推动团队建立追踪「可直接使用」vs「需要修正」的评测体系，而非仅依赖 benchmark 准确率。尚未建立任务特定评测的团队应将此视为差距。
• 多 provider 多样性。 评分逻辑不限于 GPT‑5.6，同样适用于所有 provider。DeepSeek V4 Pro、Claude Fable 5 系列以及 Qwen3.7 系列模型，在不同任务类型上各有不同的重试成本特征。以结果率为核心构建的多 provider 路由策略——而非仅看标称 token 价格——是下一个成熟度台阶。

TheRouter 用户的行动参考

TheRouter 在各配置 provider 间路由请求，并在计费账本中记录每次请求的成本与延迟。希望向「每次成功结果成本」迈进的团队，可以从为重试请求打标签入手，比如附带 X-TheRouter-Retry: true 请求头，并在路由成本中关联这些事件——详见使用文档。

下一步评测目标是按 provider/模型统计任务特定通过率。如果你的团队正在向结果导向的路由策略演进，provider 路由指南和 fallback 配置是相关的起点。

「每美元有效智能」这一表述的价值，超越了 OpenAI 自家产品线。它是 CFO 们评估 AI 支出时将要使用的语言——同样也是路由运营者在向财务与管理层提案模型分级策略时应当使用的语言。