NVIDIA's hybrid LatentMoE model (120B total, 12B active). Mamba-2 + Attention + MoE architecture with 1M context. Multi-Token Prediction for fast inference.
NVIDIA Nemotron 3 Super (120B всего, 12B активных) — это открытая гибридная LatentMoE-модель, созданная для агентного мышления, программирования и длительных многоконтекстных мультиагентных рабочих процессов. Выпущенная в марте 2026 года, это флагман поколения Nemotron 3 — первая модель, использующая архитектуру LatentMoE, которая сжимает представления токенов перед маршрутизацией к экспертам, активируя в 4 раза больше экспертов при той же стоимости инференса. Модель поддерживает родной контекст в 1M токенов, что даёт AI-агентам долгосрочную память при работе с кодовыми базами, документами и длительными сессиями с инструментами.
Модель чередует слои Mamba-2 для эффективной обработки длинных последовательностей с слоями внимания для точного ассоциативного поиска, и использует Multi-Token Prediction (MTP) для прогнозирования нескольких будущих токенов за один прямой проход — обеспечивая встроенное спекулятивное декодирование. Предобученная на 25T+ токенах и дообученная с помощью мультисреднего обучения с подкреплением (1.2M+ прогонов NeMo Gym), модель превосходна в агентных бенчмарках: PinchBench (85.6%), SWE-Bench Verified и Terminal-Bench, обеспечивая до 5× более высокую пропускную способность по сравнению с предшественником. На TheRouter модель маршрутизируется через AWS Bedrock как nvidia.nemotron-super-3-120b.
NVIDIA публикует Nemotron 3 Super как open weights, datasets, recipes, NIM deployment и модель с native 1M-token context. AWS Bedrock обслуживает ту же модель как nvidia.nemotron-super-3-120b с 256K context, 32K max output, text-only I/O, Chat Completions, Invoke, Converse, response streaming, structured outputs, guardrails и client-side tool calling.
TheRouter отдаёт модель как OpenAI-compatible /v1/chat/completions под nvidia/nemotron-super-120b. Customer-facing context, output, pricing, modality и supported-parameter fields берутся из live catalog TheRouter; эта page фиксирует, что upstream Bedrock card уже, чем native 1M context NVIDIA, а snippets остаются capped до operator-funded verification.
| Тип | Ставка |
|---|---|
| Вход | $0.162 за 1 млн токенов |
| Выход | $0.702 за 1 млн токенов |
| Дата релиза | 2026-03-11developer.nvidia.com ↗ | проверено |
| Архитектура | Гибридная LatentMoE — Mamba-2 SSM + Attention + MoE (120B всего, 12B активных)research.nvidia.com ↗ | проверено |
| Родная длина контекста | 1,000,000 токенов (1M)developer.nvidia.com ↗ | проверено |
| Контекст на AWS Bedrock | 256K токенов (AWS Bedrock предоставляет подмножество родных 1M)docs.aws.amazon.com ↗ | проверено |
| Макс. вывод (TheRouter) | 262,144 токеновdocs.aws.amazon.com ↗ | проверено |
| Обучающие данные | 25T+ токенов — собранные и синтезированные данные: код, математика, наука, общие знания; наборы данных полностью раскрытыbuild.nvidia.com ↗ | проверено |
| Пост-обучение | Мультисреднее RL (1.2M+ прогонов NeMo Gym, 21 среда)developer.nvidia.com ↗ | проверено |
| Лицензия | NVIDIA Open Model Licensewww.nvidia.com ↗ | проверено |
| Поддерживаемые языки | Английский, французский, немецкий, итальянский, японский, испанский, китайскийaws.amazon.com ↗ | проверено |
| Benchmark | Distribution | Score | Source |
|---|---|---|---|
PinchBench Агентный бенчмарк — лучшая открытая модель в своём классе на момент запуска | 85.6%% | developer.nvidia.com ↗ | |
AIME 2025 | — | Не раскрыто | — |
MMLU-Pro | 83.73% | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | |
GPQA (with tools) | 82.70%% | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | |
Arena-Hard V2 Ниже специализированных чат-моделей — модель оптимизирована для агентного выполнения, а не для диалога | 73.88%% | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | |
RULER Бенчмарк поиска в длинном контексте — 100 сэмплов на задачу, сильные результаты на 'иголка в стоге сена' | High (leading open model) | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | |
TerminalBench 2.0 | 31.00points | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | |
SWE-Bench Verified Блог AWS отмечает высокую производительность на SWE-Bench и мультиязычных вариантах, точные цифры не опубликованы | — | Не раскрыто | — |
Для новых интеграций используйте глобальный endpoint api.therouter.ai из примеров ниже; старый China accelerated endpoint выведен из эксплуатации.
curl https://api.therouter.ai/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer $THE_ROUTER_API_KEY" -d '{
"model": "nvidia/nemotron-super-120b",
"messages": [
{"role": "user", "content": "Summarize the key points from this input."}
]
}'Nemotron 3 Super поддерживает совместимые с OpenAI chat completions через API TheRouter. Модель поддерживает инструменты, tool_choice, response_format (JSON режим), stop-последовательности, temperature, top_p и max_tokens.
curl https://api.therouter.ai/v1/chat/completions \
-H "Authorization: Bearer $THEROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "nvidia/nemotron-super-120b",
"messages": [
{"role": "system", "content": "You are a helpful AI assistant."},
{"role": "user", "content": "Write a Python function to recursively find all .py files in a directory."}
],
"temperature": 0.3,
"max_tokens": 4096
}'NVIDIA выпустила в открытом доступе Nemotron 3 Super (120B-A12B) — гибридную модель Mamba-2 + Attention + LatentMoE с нативным контекстом в 1M. Разработана для мультиагентных систем, включает multi-token prediction, NVFP4 предобучение для Blackwell и мультисреднее RL-дообучение на 21 конфигурации. Доступна через AWS Bedrock с первого дня.
AWS опубликовала подробное руководство по запуску Nemotron 3 Super на Bedrock, охватывающее варианты использования от разработки ПО до триажа киберугроз. Модель доступна через эндпоинты bedrock-runtime и bedrock-mantle с уровнями Standard, Priority и Flex.
DeepInfra объявила о поддержке Nemotron 3 Super с оптимизированным инференсом. Платформа отметила архитектуру LatentMoE и контекст 1M как ключевые отличия для агентных AI-нагрузок.
В стандартной MoE токены направляются к экспертам в полном скрытом измерении, что создаёт вычислительное узкое место по мере роста модели. LatentMoE сжимает эмбеддинги токенов в низкоранговое латентное пространство перед маршрутизацией, позволяя задействовать до 4× больше экспертов при той же стоимости инференса. Это обеспечивает более тонкую специализацию экспертов — например, отдельные эксперты для синтаксиса Python против SQL-логики — активируемые только при необходимости.
Нативная архитектура модели поддерживает контекст в 1M токенов, но точный предел зависит от платформы. На AWS Bedrock (текущий бэкенд маршрутизации TheRouter для этой модели) настроено 256K токенов с макс. выводом 32K. Слои Mamba-2 делают полный контекст 1M вычислительно практичным, в отличие от моделей только на внимании, где длинный контекст квадратично ухудшает пропускную способность.
Nemotron 3 Super — первая модель поколения Nemotron 3. Её предшественником была ранняя Nemotron Super (плотная 120B). 3 Super обеспечивает до 5× повышение пропускной способности благодаря гибридной MoE-архитектуре, вводит LatentMoE для 4× более эффективной маршрутизации экспертов, использует multi-token prediction для спекулятивного декодирования и поддерживает нативный контекст 1M. Меньшая родственная модель (Nano 30B, 3.5B активных) вышла в декабре 2025 года для периферийного развёртывания.
Модель работает для чата, но показатель Arena-Hard V2 (73.88%) уступает специализированным чат-моделям. Nemotron 3 Super оптимизирована для агентного многопользовательского решения проблем, где важны вызов инструментов, длинный контекст и высокая пропускная способность. Для творческих бесед лучше использовать deepseek/deepseek-v3.1 или meta/llama-4-maverick.
Nemotron 3 Super поддерживает temperature, max_tokens, top_p, tools (function calling), tool_choice, response_format (JSON mode) и stop-последовательности. Поддерживается стриминг. Модель работает через совместимый с OpenAI эндпоинт TheRouter v1/chat/completions, маршрутизируемый через AWS Bedrock.
| источник | URL | получено | |
|---|---|---|---|
| Дата релиза | developer.nvidia.com ↗ | 2026-05-28 | проверено |
| Архитектура | research.nvidia.com ↗ | 2026-05-28 | проверено |
| Родная длина контекста | developer.nvidia.com ↗ | 2026-05-28 | проверено |
| Контекст на AWS Bedrock | docs.aws.amazon.com ↗ | 2026-05-28 | проверено |
| Макс. вывод (TheRouter) | docs.aws.amazon.com ↗ | 2026-05-28 | проверено |
| Обучающие данные | build.nvidia.com ↗ | 2026-05-28 | проверено |
| Пост-обучение | developer.nvidia.com ↗ | 2026-05-28 | проверено |
| Лицензия | www.nvidia.com ↗ | 2026-05-28 | проверено |
| Поддерживаемые языки | aws.amazon.com ↗ | 2026-05-28 | проверено |
| PinchBench | developer.nvidia.com ↗ | 2026-05-28 | проверено |
| AIME 2025 | aws.amazon.com ↗ | 2026-05-28 | неизвестно |
| MMLU-Pro | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | 2026-08-25 | проверено |
| GPQA (with tools) | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | 2026-08-25 | проверено |
| Arena-Hard V2 | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | 2026-08-25 | проверено |
| RULER | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | 2026-08-25 | проверено |
| TerminalBench 2.0 | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | 2026-08-25 | проверено |
| SWE-Bench Verified | aws.amazon.com ↗ | 2026-05-28 | неизвестно |
| NVIDIA выпускает Nemotron 3 Super — открытую гибридную MoE для агентного мышления | developer.nvidia.com ↗ | 2026-05-28 | проверено |
| AWS Bedrock запускает Nemotron 3 Super с полностью управляемым инференсом | aws.amazon.com ↗ | 2026-05-28 | проверено |
| DeepInfra добавляет Nemotron 3 Super с быстрым инференсом | deepinfra.com ↗ | 2026-05-28 | проверено |
| Чем LatentMoE отличается от стандартной MoE? | developer.nvidia.com ↗ | 2026-05-28 | к проверке |
| Какой контекст Nemotron 3 Super поддерживает на самом деле? | docs.aws.amazon.com ↗ | 2026-05-28 | к проверке |
| Как Nemotron 3 Super сравнивается с предыдущими моделями NVIDIA? | developer.nvidia.com ↗ | 2026-05-28 | к проверке |
| Подходит ли Nemotron 3 Super для одноразовых чат-сессий? | llm-stats.com ↗ | 2026-05-28 | к проверке |
| Какие инструменты/параметры поддерживаются через TheRouter API? | docs.aws.amazon.com ↗ | 2026-05-28 | к проверке |