MiMo-V2.5-Pro-UltraSpeed достигает 1000 токенов в секунду: фреймворк для принятия решений по routing

Скорость сама по себе редко меняет решения operator по routing. Изменения происходят тогда, когда скорость меняет экономику целого класса задач. MiMo-V2.5-Pro-UltraSpeed — новый режим вывода от Xiaomi и TileRT — пересекает именно этот порог: 1000+ токенов в секунду на модели с 1 триллионом параметров через стандартный OpenAI-совместимый API. Окно trial-доступа открывается сегодня, 9 июня, и закрывается 23 июня.

Это операционный факт. Более сложный вопрос: оправдывает ли ваша нагрузка премию в 3× к цене? Эта статья — фреймворк принятия решений, а не продуктовый обзор.

Что произошло: MiMo-V2.5-Pro-UltraSpeed — 1000 токенов в секунду

8 июня 2026 года Xiaomi совместно с TileRT выпустили MiMo-V2.5-Pro-UltraSpeed, достигнув скорости декодирования 1000+ токенов в секунду на модели с 1 триллионом параметров — предположительно впервые на стандартных GPU. Model ID в API: mimo-v2.5-pro-ultraspeed, endpoint: https://api.xiaomimimo.com/v1, полная OpenAI-совместимость.

Технический подход примечателен тем, что намеренно обходит кастомное железо. Два ключевых метода:

• FP4-квантизация (MXFP4) только для слоёв MoE Experts. MiMo-V2.5-Pro использует архитектуру Mixture-of-Experts. Expert-слои, составляющие подавляющую часть параметров, квантизируются до FP4 через QAT (Quantization-Aware Training), при этом attention и прочие модули сохраняют исходную точность. Результат — резкое снижение давления на пропускную способность памяти при показателях производительности, «практически на уровне исходной модели».

• DFlash speculative decoding. Вместо отдельной draft-модели DFlash применяет блочное маскированное параллельное предсказание, увеличивая количество принятых токенов за одну верификацию. Это превращает поэтапную авторегрессию в параллельную верификацию нескольких токенов, сохраняя качество выдачи при кратном росте пропускной способности.

API в период trial доступен только по заявке (9–23 июня 2026 года, 23:59 по пекинскому времени). Слоты ограничены; подача заявки не гарантирует одобрения. Стандартный mimo-v2.5-pro доступен без ограничений.

Сигнал по ценообразованию: UltraSpeed стоит 3× от базовой цены MiMo-V2.5-Pro при скорости генерации ~10×. Тарификация Token Plan не поддерживается — только API-биллинг.

Почему это важно для AI-инженерных команд

Порог в 1000 TPS — это не просто показатель в бенчмарке. На такой скорости несколько классов нагрузок меняют свою природу:

Coding agent с жёсткими внутренними циклами. Агентные процессы с паттерном «генерация → выполнение → перепланирование» ограничены задержкой модели. При 1000 TPS доля модели в общем wall-clock времени сжимается с доминирующего фактора до пренебрежимо малого. Если backend сокращает время на код-подсказку с 12 до 1,2 секунды — это качественный сдвиг в цикле обратной связи разработчика, а не только количественный.

Best-of-N и tree search. При достаточной пропускной способности можно уложить N параллельных путей рассуждения в тот же бюджет задержки, который раньше уходил на один. При 1000 TPS best-of-N-сэмплинг на 1T-модели становится экономически оправданным в рамках единственного вызова.

Конвейеры принятия решений в реальном времени. В release-заметках фигурируют: генерация торговых сигналов высокой частоты, антифрод, интеллектуальные ставки. Ключевая переменная для operator — не TPS отдельно, а TPS в связке с допустимой задержкой до первого токена (TTFT). UltraSpeed снижает время генерации; TTFT зависит от нагрузки системы в период trial.

Router/Operator-угол: когда 3× цена оправдана ради 10× скорости для coding agent?

Честный анализ routing начинается с юнит-экономики. Фреймворк оценки mimo-v2.5-pro-ultraspeed против стандартного endpoint:

Тип нагрузки → подходит ли для UltraSpeed?

Математика 3×/10×. Если средний output составляет N токенов, UltraSpeed стоит 3× дороже за токен при 10× большей скорости выдачи. Стоимость одного output — в 3× выше. Но wall-clock-время на задачу фиксированного размера — в ~10× ниже. Для процессов, где ограничением является время ожидания разработчика, а не токен-бюджет, эффективный ROI UltraSpeed положительный даже при трёхкратной наценке.

OpenAI-совместимая интеграция. Модель работает через стандартный chat completions API с поддержкой streaming. Переход с mimo-v2.5-pro требует только смены имени модели. Для operator, уже маршрутизирующих нагрузку через AI gateway с несколькими китайскими провайдерами, это zero-code тест: добавьте model ID в таблицу маршрутизации, направьте canary-трафик и измерьте.

Риски доступа в период trial. Доступ открыт только по заявке, ресурсы ограничены, временное окно — 9–23 июня. Operator, оценивающим UltraSpeed, следует:

1. Немедленно подать заявку на platform.xiaomimimo.com/ultraspeed, если вы являетесь бизнес-пользователем или профессиональным разработчиком.
2. Рассматривать это как бенчмарк-окно, а не производственную зависимость.
3. Заранее настроить fallback-маршрут на mimo-v2.5-pro или другого провайдера для нагрузок, превышающих trial-квоту.

На что обратить внимание пользователям AI gateway

Для команд, маршрутизирующих модели китайских провайдеров через AI gateway, trial UltraSpeed стоит инструментировать, даже если вы не планируете немедленный переход на premium-уровень. Данные для сбора:

• TTFT в часы пиковой нагрузки trial-периода — это недостающая переменная в утверждении «10× скорость».
• Бенчмарк под вашу конкретную петлю coding agent — реальные подсчёты токенов и round-trip latency на вашем SWE-bench-аналоге, не синтетический тест пропускной способности.
• Стоимость одной принятой правки кода как единица сравнения, а не стоимость на миллион токенов.

Руководство по routing провайдеров на TheRouter описывает паттерн добавления и сравнения endpoint китайских провайдеров. По настройке multi-provider fallback при исчерпании trial-квот — смотрите документацию по AI provider fallback routing.

После закрытия trial 23 июня доступность и ценообразование mimo-v2.5-pro-ultraspeed в production-режиме определят, станет ли этот endpoint постоянной позицией в таблице маршрутизации или бенчмарк-артефактом. Следите за анонсами Xiaomi MiMo для получения информации о GA-ценообразовании.