Kimi K3 доступен через API: параметр reasoning_effort ломает скрипты маршрутизации для K2.x

Kimi K3 теперь доступна через OpenAI-совместимый endpoint. Однако модель заменяет параметр thinking из K2.x на reasoning_effort — ломающее изменение для скриптов маршрутизации, конфигураций gateway и интеграций coding agent.

Опубликовано источник Kimi

Архивный материал, подготовленный с помощью ИИ по указанному источнику и опубликованный без индивидуальной проверки. Ответственный редактор: Joe Werner.

Руководство оператора по маршрутизации Kimi K3 через reasoning_effort API — тёмный технический редакционный стиль
Машинный перевод с английского оригинала — читать оригинал

Когда выходит новая модель frontier-уровня, в заголовках новостей неизменно фигурируют benchmark-цифры. Операционные изменения, которые реально влияют на работу команды, как правило, скрыты в changelog API. Kimi K3 — не исключение: Moonshot AI 14 июля выпустила модель с 2.8 трлн параметров, и командам, планирующим встроить K3 в пайплайны маршрутизации, нужно заметить одно тихое ломающее изменение — прежде чем переходить к разбору бенчмарков.

Что произошло

Kimi K3 теперь доступна через https://api.moonshot.ai/v1 под именем модели kimi-k3. Это крупнейшая модель Moonshot на сегодняшний день: 2.8 трлн параметров, архитектура Mixture of Experts с 16 активными экспертами из 896, построена на Kimi Delta Attention и Attention Residuals для улучшения когерентности на длинных последовательностях.

Модель работает с контекстным окном в 1 млн токенов, поддерживает нативное понимание изображений и всегда работает в режиме «с рассуждением» — без неё нет варианта без thinking. Открытые веса планируется опубликовать 27 июля 2026 года; до этого момента доступ возможен только через API.

По бенчмаркам K3 находится примерно на уровне Claude Fable 5 на задачах долгосрочного программирования и превосходит GPT 5.6 Sol в ряде внутренних оценок. В ходе 48-часового автономного запуска K3 спроектировала рабочую топологию чипа с использованием open-source EDA-инструментов. Впечатляющие цифры — но они не сломают ваш пайплайн. Вот что сломает.

Ломающее изменение: reasoning_effort вместо thinking

Во всех интеграциях Kimi K2.x режим мышления задаётся через параметр extra_body или thinking. K3 этот параметр не принимает. Правильное поле — верхнеуровневый reasoning_effort:

completion = client.chat.completions.create(
    model="kimi-k3",
    reasoning_effort="max",   # НЕ extra_body={"thinking": {"type": "enabled"}}
    messages=[{"role": "user", "content": "..."}],
)

Пока поддерживается только значение max. Режимы low и high появятся в одном из следующих релизов. Это означает, что K3 пока не предоставляет компромисс «стоимость vs качество», который операторы обычно используют для разбивки на ценовые уровни: каждый вызов K3 выполняется с максимальными затратами на мышление.

Второе операционное изменение касается многоходовых разговоров и цепочек tool call: при передаче контекста следующему запросу необходимо включать полный объект сообщения ассистента — в том числе поле reasoning_content. Обрезка reasoning_content перед передачей контекста ухудшает связность последующих ходов.

Почему это важно для AI-инженерных команд

При переходе с K2.x на K3 без тщательного изучения API diff возникает три практические проблемы.

Несоответствие параметров может привести к тихому fallback. В зависимости от того, как ваш SDK или gateway обрабатывает неизвестные поля, старый параметр thinking, переданный в K3, может быть молча проигнорирован — без ошибки. Модель продолжает работать по умолчанию, но ваша логика маршрутизации считает, что thinking effort был задан, хотя на деле нет.

Меняется учёт стоимости. Токены K3 тарифицируются отдельно от K2.7 Code. Если ваше отслеживание бюджета по моделям использует префиксы имён K2.x, строка kimi-k3 не совпадёт с этими правилами. Проверьте логику атрибуции стоимости до масштабирования использования.

Интеграции coding agent требуют проверки. В официальном quickstart Moonshot Claude Code, Codex, Cline и RooCode перечислены как основные сценарии использования K3. Каждый из этих инструментов передаёт строку модели и может направлять параметры thinking на основе предыдущих настроек. Команды, настроившие интеграции K2.x через эти инструменты, должны перечитать руководства по интеграции K3 на платформенной документации, прежде чем направлять K3-трафик через существующие настройки agent.

Угол для маршрутизации и оператора

Kimi K3 вводит новый уровень «стоимость–производительность» для задач долгосрочного программирования. Для операторов, маршрутизирующих задачи coding agent между несколькими provider, профиль производительности K3 — крупный MoE с постоянно включённым max thinking — ближе к Fable 5 и GPT 5.6 Sol, а не к K2.7 Code. Использование K3 как прямой замены K2.7 Code увеличит стоимость и задержку на задачах, не требующих frontier-уровня рассуждений.

Отсутствие уровней effort также означает, что fallback с K3 на K2.7 Code — пока единственный способ снизить затраты внутри семейства без смены provider. Будущие режимы low/high effort создадут внутри K3 стратегию ценовой дифференциации, но это пока недоступно.

Открытые веса, запланированные на 27 июля, откроют возможности для self-hosted и сторонних inference-вариантов. До этой даты api.moonshot.ai — единственный проверенный источник. Следите за моментом, когда ваш предпочтительный inference provider добавит веса, чтобы избежать маршрутизации на непроверенные endpoint.

Чеклист маршрутизации:

  • Обновите строки модели с kimi-k2.6 или kimi-k2.7-code там, где K3 подходит по задачам
  • Замените параметр thinking на reasoning_effort: "max" в K3-путях
  • Включайте полное сообщение ассистента (с reasoning_content) в многоходовые запросы
  • Убедитесь, что атрибуция стоимости охватывает новое имя модели kimi-k3
  • Отложите self-hosted маршрутизацию до подтверждения весов 27 июля

На что стоит обратить внимание пользователям TheRouter

Архитектурный сдвиг в том, как Kimi K3 управляет режимом мышления — с верхнеуровневым полем reasoning_effort вместо расширения через extra-body — показателен с точки зрения фрагментации API-поверхности, которую и призваны поглощать routing gateway. Когда несколько provider каждый по-своему реализует thinking-mode, единый gateway может нормализовать эти поля до того, как они достигнут кода приложения. Изучите документацию TheRouter, чтобы узнать, как параметры, специфичные для provider, можно сопоставить на уровне gateway, сохранив application code независимым от конкретного provider.

По мере появления уровней effort для K3 они также станут актуальны для политик динамической маршрутизации, выбирающих уровень effort в зависимости от сложности задачи или порогов бюджета — стоит продумать эту конфигурацию заранее, до выхода тиров.

Схема routing-политики LongCat-2.0 для agentic-кодирования с контекстным окном 1M токенов и sparse MoE архитектурой

LongCat-2.0 API на SiliconFlow: решение по routing для agentic-кодирования с контекстом до 1M токенов

LongCat-2.0 от Meituan — анонимная модель, уже занявшая первое место по объёму в Hermes Agent и второе в Claude Code — теперь доступна через OpenAI-совместимый API на SiliconFlow. Разбираем решение по routing.

источник SiliconFlow / Meituan LongCat
Абстрактная диаграмма маршрутизации с границей containment вокруг облачных credential-путей, стиль редакционного ньюсрума

Claude Fable 5.1: Containment Escape блокирует получение облачных credentials по умолчанию

Claude Code 2.1.257 выпускает Fable 5.1 с 1M контекстом и жёсткой блокировкой запросов к облачным metadata-сервисам в auto-режиме — вот что нужно проверить операторам production-пайплайнов.

источник Anthropic Claude Code
Абстрактная техническая схема: image-токены проходят через слой API-маршрутизации, где текстовые и мультимодальные запросы идут по разным путям

DeepSeek V4-Flash-Vision-Exp добавляет поддержку изображений в API: что нужно изменить в вашем routing-слое

DeepSeek выпустил первую мультимодальную модель 21 августа. Главная routing-проблема не в самой модели, а в том, что vision-запросы требуют content в виде массива блоков, тогда как ваш прокси может обрабатывать только строку.

источник DeepSeek
Помощь и контакты