MiMo-V2.5-Pro-UltraSpeed достигает 1000 токенов в секунду: фреймворк для принятия решений по routing
MiMo-V2.5-Pro-UltraSpeed от Xiaomi достигает 1000+ токенов в секунду на модели с 1T параметров благодаря FP4-квантизации и DFlash speculative decoding. API доступен с 9 по 23 июня по цене в 3× выше базовой. Разбираем фреймворк принятия решений для operator-команд.
источник Xiaomi MiMo