MiMo-V2.5-Pro-UltraSpeed 达到每秒 1000 Token：Operator 的路由决策框架

速度本身很少能改变 operator 的路由决策。真正改变决策的，是速度重构了整个工作负载类型的经济学逻辑。MiMo-V2.5-Pro-UltraSpeed —— 小米与 TileRT 合作推出的新推理模式 —— 正好跨越了这道门槛：1T 参数模型，每秒 1000+ token，通过标准 OpenAI 兼容 API 提供服务。试用窗口从今天（6 月 9 日）开放，6 月 23 日结束。

这是操作层面的事实。更难回答的问题是：你的工作负载是否值得为 3 倍的价格溢价买单？本文是决策框架，不是产品背书。

发生了什么：MiMo-V2.5-Pro-UltraSpeed 每秒 1000 token

2026 年 6 月 8 日，小米联合 TileRT 发布了 MiMo-V2.5-Pro-UltraSpeed，在 1T 参数模型上实现了每秒 1000+ token 的解码速度 —— 据称是普通 GPU 硬件上的首次突破。API model ID 为 mimo-v2.5-pro-ultraspeed，服务地址 https://api.xiaomimimo.com/v1，完全 OpenAI 兼容。

技术路线之所以值得关注，在于它明确绕开了定制硬件路径。两项核心技术：

• 仅对 MoE Expert 层进行 FP4 量化（MXFP4）。 MiMo-V2.5-Pro 采用 MoE（混合专家）架构，Expert 层占参数绝大多数，对量化的容忍度最高。通过 QAT（量化感知训练），仅将 Expert 层量化为 FP4，其余模块保持原始精度。结果是在 1T 规模的内存带宽瓶颈上大幅降压，基准测试性能"与原始模型基本持平"。

• DFlash 推测解码。 区别于传统小 draft 模型，DFlash 使用块级掩码并行预测，在每个验证步骤中提高可接受 token 数量。这将单 token 自回归瓶颈转化为并行多 token 验证，在保持输出质量的同时成倍提升吞吐量。

API 在试用期采用申请制（2026 年 6 月 9 日至 23 日 23:59 北京时间）。名额有限，提交申请不保证通过。标准 mimo-v2.5-pro 不受限制，正常可用。

定价信号： UltraSpeed 价格为基础版 MiMo-V2.5-Pro 的 3 倍，但生成速度约为 10 倍。Token Plan 计费模式不支持，仅 API 计费。

对 AI 工程团队的影响

1000 TPS 阈值不只是一个 benchmark 数字。在这个速度下，多类工作负载的性质发生了变化：

具有紧密内循环的 Coding Agent。 编码 agent 工作流的"生成 → 执行 → 重规划"短循环受限于模型响应延迟。在 1000 TPS 下，模型在总耗时中的占比从主导因素压缩至近乎可忽略。如果后端将代码建议从 12 秒压缩到 1.2 秒，开发反馈循环发生的是质变，不只是量变。

Best-of-N 与树状搜索推理。 吞吐量足够高时，可以在原来单路径的延迟预算内运行 N 条并行推理路径。在 1000 TPS 下，对 1T 推理模型进行 best-of-N 采样在单次调用预算内变得经济可行。

实时决策流水线。 发布说明提到的场景包括高频交易信号生成、反欺诈、智能竞价。对构建这类系统的 operator：关键变量不是 TPS 本身，而是 TPS 相对于你可接受的首 token 延迟（TTFT）。UltraSpeed 降低生成时间，TTFT 取决于试用期间的系统负载。

Router/Operator 视角：Coding Agent 的 3 倍价格何时值得换来 10 倍速度？

诚实的路由分析从单位经济学开始。以下是评估 mimo-v2.5-pro-ultraspeed 与标准 endpoint 的决策框架：

工作负载类型 → 是否适合路由到 UltraSpeed？

3×/10× 数学逻辑。 假设平均输出 N 个 token，UltraSpeed 每 token 贵 3 倍，但每秒产出 10 倍 token。每单位输出的成本是 3 倍。但完成固定 token 任务的挂钟时间约降低 10 倍。对于开发者等待时间（而非 token 花费）是约束因素的工作流，即便溢价 3 倍，UltraSpeed 的有效 ROI 仍为正。

OpenAI 兼容接入。 该模型遵循标准 chat completions API，支持 streaming。从 mimo-v2.5-pro 切换只需修改 model 名称。对于已通过 AI gateway 路由多个国内 provider 的 operator，这是零代码测试 —— 在路由表中添加 model ID，将金丝雀流量打过去，测量即可。

试用期接入风险。 试用接入采用申请制，资源受限，时间窗口仅限 6 月 9 日至 23 日。评估 UltraSpeed 的 operator 应当：

1. 如果你是企业或专业开发者，立即在 platform.xiaomimimo.com/ultraspeed 申请。
2. 将此视为 benchmark 窗口，而非生产依赖。
3. 为超出试用配额的工作负载预先配置到 mimo-v2.5-pro 或其他 provider 的 fallback 路由。

TheRouter 用户需要关注和尝试的内容

对于已通过 AI gateway 路由国内 provider 模型的团队，即使短期不打算切换到溢价层，UltraSpeed 试用窗口也值得做埋点测量。需要采集的数据：

• 试用高峰时段的 TTFT —— 这是"10 倍速度"声明中缺失的关键变量。
• 针对你的具体 coding agent 循环进行 benchmark —— 测量你实际 SWE-bench 类内循环的 token 数和往返延迟，而非合成吞吐测试。
• 每条被接受代码编辑的成本 作为对比单位，而非每百万 token 成本。

TheRouter 上的 provider 路由指南涵盖了添加和对比国内 provider 模型 endpoint 的模式。关于试用配额耗尽时的多 provider fallback 配置，参见 AI provider fallback 路由文档。

6 月 23 日试用结束后，mimo-v2.5-pro-ultraspeed 的正式供货情况和定价将决定它是否能成为路由表中的常驻选项。关注小米 MiMo 的后续公告以获取 GA 定价信息。