Kimi K2.7 Code API: на 30% меньше thinking-токенов и вариант HighSpeed меняют вашу политику routing

Kimi K2.7 Code от Moonshot AI сокращает расход reasoning-токенов на 30% и вводит вариант HighSpeed с пропускной способностью 180–260 TPS — два изменения, требующих конкретного решения по routing для команд, уже направляющих трафик coding-агентов на Kimi.

TheRouter Newsroomисточник Kimi Open Platform
Абстрактная схема routing с двумя ветками модельных путей — стандартной и HighSpeed — с индикаторами количества токенов и задержки

12 июня Moonshot AI выпустила Kimi K2.7 Code с числом, которое важнее позиции в бенчмарках: на 30% меньше reasoning-токенов в среднем по сравнению с K2.6. Для команд, запускающих многошаговые coding-агенты, это не маргинальное улучшение — это прямое снижение стоимости каждой задачи без изменения пути запроса.

Вместе с основной моделью появился вариант HighSpeed (kimi-k2.7-code-highspeed) с целевой пропускной способностью 180 токенов/сек и пиком до 260 TPS в сценариях с коротким контекстом. Это означает два чётких варианта для routing: стандартный — для длительных задач, где важна точность; HighSpeed — для интерактивных или latency-чувствительных рабочих процессов.

Что изменилось

Kimi K2.7 Code — это специализированная для кодирования производная семейства K2 с тремя конкретными изменениями на уровне оператора:

  • Эффективность reasoning-токенов: среднее снижение «overthinking» на 30%. Модель выполняет задачи за меньшее количество внутренних шагов рассуждения, что напрямую снижает стоимость output-токенов в agentic-циклах, где thinking-токены занимают основную долю.
  • Соблюдение инструкций в длинных контекстах: K2.7 Code устраняет тенденцию K2.6 к отклонению от инструкций в середине протяжённых задач. Внешние бенчмарки фиксируют прирост на 21,8% на Kimi Code Bench v2 и улучшение agentic-задач на 10%.
  • Вариант HighSpeed: kimi-k2.7-code-highspeed — та же базовая модель, оптимизированная для пропускной способности. При 180–260 TPS исчезает аргумент в пользу лёгких моделей для интерактивных coding-сессий.

Размер контекстного окна остаётся 256K токенов для обоих вариантов. Модель не поддерживает отключение режима thinking — каждый запрос выполняется с включённым рассуждением. Это важно проверить, если в вашем routing есть отдельная логика для thinking- и non-thinking-моделей.

Оба варианта доступны через Kimi Open Platform по адресу https://api.moonshot.cn/v1 и включены в каталог сторонних моделей DashScope как kimi-k2.7-code с OpenAI-совместимыми endpoints.

Почему это важно для AI-инженерных команд

Снижение reasoning-токенов на 30% имеет мультипликативный эффект в agentic-пайплайнах. Coding-агенты не делают один API-вызов — они работают в цикле: планирование, реализация, проверка, итерация. Если каждый шаг цикла производит меньше thinking-токенов, экономия масштабируется вместе с глубиной цикла.

Одновременно улучшенное соблюдение инструкций меняет логику принятия решений о fallback. Команды, которые раньше переключались на более тяжёлую модель, когда K2.6 терял нить длинного технического задания, могут заново оценить необходимость этого fallback. Меньше fallback — ниже средняя стоимость и проще routing-логика.

Ценообразование на платформе Moonshot составляет около $0,95 за миллион input-токенов и $4,00 за миллион output-токенов, с cache-hit по ~$0,19 за миллион. Реальная экономия на задачу зависит от доли reasoning-токенов в вашей нагрузке — команды с reasoning-интенсивными рабочими процессами получат наибольший выигрыш.

Угол routing/оператора

Решение по routing: стандартный вариант vs HighSpeed. HighSpeed вводит реальную развилку. Если ваша политика routing сегодня направляет весь трафик coding-агентов на единственный Kimi endpoint, теперь есть основание для разделения:

  • Длительные, многофайловые задачи: kimi-k2.7-code — стандартная пропускная способность, полный фокус на корректности.
  • Интерактивные или latency-чувствительные потоки (автодополнение, быстрое создание scaffolding): kimi-k2.7-code-highspeed — та же модель, вывод в 2–3 раза быстрее.

Это та же схема routing-разделения, которая уже распространена в работе с OpenAI (gpt-5.5 vs gpt-5.4-mini) и Qwen (qwen3.7-max vs qwen3.6-flash). Наличие такой возможности внутри одного семейства снижает стоимость переключения — оба варианта разделяют один API-контракт.

Ограничение: только thinking-режим. K2.7 Code не поддерживает отключение thinking. Если ваш routing-слой содержит условную логику на основе thinking.type, убедитесь, что запросы к K2.7 Code всегда проходят через путь, который не пытается отключить thinking. Это не регрессия по сравнению с K2.6 — K2.6 также принудительно включал thinking, — но стоит проверить при миграции от provider без thinking-режима.

Прямая замена K2.6. API-контракт совместим с K2.6. Изменяются только идентификаторы моделей (kimi-k2.6 → kimi-k2.7-code), тогда как endpoint, аутентификация и формат запроса остаются прежними. Команды, централизованно управляющие учётными данными provider через routing-слой, могут обновить псевдоним модели в одном месте.

Доступность на DashScope. Для команд, уже маршрутизирующих запросы через DashScope к Qwen и другим моделям, kimi-k2.7-code теперь входит в каталог сторонних моделей. Это позволяет использовать единый credential DashScope для моделей семейств Qwen и Kimi одновременно, сокращая накладные расходы на управление учётными данными.

Что стоит попробовать пользователям TheRouter

Если вы направляете трафик coding-агентов через multi-provider gateway, выход K2.7 Code даёт два конкретных действия:

  1. Обновите псевдоним модели с kimi-k2.6 на kimi-k2.7-code в конфигурации provider. Прирост эффективности токенов вступит в силу немедленно — без других изменений.
  2. Оцените вариант HighSpeed для любого рабочего процесса, где выходная задержка сейчас является узким местом. При 180+ TPS меняется практическая граница для интерактивных сессий.

Для команд, оценивающих Kimi в качестве fallback-provider, улучшенное соблюдение инструкций и более низкая стоимость токенов делают соотношение цены и надёжности более привлекательным, чем две недели назад.

Подробнее о настройке нескольких Kimi endpoint в единой политике routing читайте в документации по routing providers TheRouter.

Модели, упомянутые в статье

Абстрактная схема на тёмном техническом фоне: центральный узел-оркестратор разветвляется к множеству параллельных agent-узлов, соединённых маршрутами

Kimi Agent Swarm: что происходит, когда 100 параллельных sub-agent одновременно обращаются к вашему API gateway

Kimi Agent Swarm запускает до 100 параллельных sub-agent на одну задачу. Для команд, маршрутизирующих трафик через Kimi API или строящих аналогичные multi-agent системы, это полностью меняет расчёт concurrency, billing и rate limit.

источник Kimi / Moonshot AI
GPT-5.6 Sol устойчивость к prompt injection политика маршрутизации AI-операторы

GPT-5.6 Sol и устойчивость к prompt injection: что результаты GPT-Red означают для вашей политики маршрутизации

GPT-Red от OpenAI сделал GPT-5.6 Sol в 6 раз устойчивее к prompt injection. Для операторов, чьи агентные pipeline обрабатывают email, веб-контент или вызовы сторонних инструментов, этот разрыв — теперь routing-решение.

источник OpenAI
Помощь и контакты