用量记账导读 — Token、Cost 与 OpenAI 兼容 API 计费

把账单语义看清楚,比多看几个模型名更重要。

用量记账最常见的问题,不是字段缺失,而是把不同类型的费用混在一起看。 这页先说明几个最常见的计费层次:shared 模型费、BYOK 平台费、外部能力费用和请求级 usage 不是一回事。

先记住一句话
BYOK 时,TheRouter 账单里不应该再把上游模型费显示成 shared model charge。 这时更需要确认的是平台费和外部能力费用。

响应里的 usage 有什么价值

非流式响应和最终流式 chunk 里都会带 usage。它最适合做请求级实时记账和应用内消费展示。

TypeScript
const usage = response.usage;
console.log(
  usage.prompt_tokens,
  usage.completion_tokens,
  usage.cost
);

最小账本语义

Shared
你在 TheRouter 账单里看到的主要是:
  model charge

如果用了外部能力,还可能加:
  external capability cost

流式响应要注意什么

流式场景下,不要在中途 chunk 就提交最终记账。要等 terminal chunk 到达,拿到完整 usage 再做最终结算。

text
推荐做法:
1. 先把流式内容展示给用户
2. 等最终 chunk 到达
3. 再提交最终 usage / cost / charge 记录

什么时候该看 Dashboard / 导出

  • 你在做月度对账,而不是单次请求调试。
  • 你要解释某个 key、某个团队、某个项目为什么花了这么多。
  • 你要把 request logs、billing summary 和 usage statement 对齐。
常见误区
如果你只盯着一个总 cost 字段,却不知道里面混了什么, 后续就很难解释 BYOK 或外部能力费用的来源。

下一步

帮助与联系