Назад к моделям

Nemotron Super 120B

nvidianvidia/nemotron-super-120b

Чем обслуживание в TheRouter отличается от вендорского

Как её эксплуатирует вендор

NVIDIA публикует Nemotron 3 Super как open weights, datasets, recipes, NIM deployment и модель с native 1M-token context. AWS Bedrock обслуживает ту же модель как nvidia.nemotron-super-3-120b с 256K context, 32K max output, text-only I/O, Chat Completions, Invoke, Converse, response streaming, structured outputs, guardrails и client-side tool calling.

На TheRouter

TheRouter отдаёт модель как OpenAI-compatible /v1/chat/completions под nvidia/nemotron-super-120b. Customer-facing context, output, pricing, modality и supported-parameter fields берутся из live catalog TheRouter; эта page фиксирует, что upstream Bedrock card уже, чем native 1M context NVIDIA, а snippets остаются capped до operator-funded verification.

Гид по API

Chat completion

Nemotron 3 Super поддерживает совместимые с OpenAI chat completions через API TheRouter. Модель поддерживает инструменты, tool_choice, response_format (JSON режим), stop-последовательности, temperature, top_p и max_tokens.

cURL
curl https://api.therouter.ai/v1/chat/completions \
  -H "Authorization: Bearer $THEROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/nemotron-super-120b",
    "messages": [
      {"role": "system", "content": "You are a helpful AI assistant."},
      {"role": "user", "content": "Write a Python function to recursively find all .py files in a directory."}
    ],
    "temperature": 0.3,
    "max_tokens": 4096
  }'

Streaming

Nemotron 3 Super поддерживает стриминг для получения ответов токен за токеном в реальном времени. Используйте SSE через совместимый с OpenAI API с stream: true.

cURL
curl https://api.therouter.ai/v1/chat/completions \
  -H "Authorization: Bearer $THEROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/nemotron-super-120b",
    "messages": [{"role": "user", "content": "Explain how latent MoE works in simple terms"}],
    "stream": true
  }'

Tool calling

Nemotron 3 Super имеет встроенную поддержку вызова инструментов/функций, что делает её подходящей для агентных рабочих процессов, требующих структурированной оркестровки инструментов.

cURL
curl https://api.therouter.ai/v1/chat/completions \
  -H "Authorization: Bearer $THEROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/nemotron-super-120b",
    "messages": [{"role": "user", "content": "What is the weather in Tokyo?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get current weather for a location",
        "parameters": {
          "type": "object",
          "properties": {
            "location": {"type": "string", "description": "City name"}
          },
          "required": ["location"]
        }
      }
    }],
    "tool_choice": "auto"
  }'

JSON mode

Nemotron 3 Super поддерживает структурированный JSON-вывод через response_format, обеспечивая надёжное извлечение структурированных данных из неструктурированных входных данных.

cURL
curl https://api.therouter.ai/v1/chat/completions \
  -H "Authorization: Bearer $THEROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/nemotron-super-120b",
    "messages": [{"role": "user", "content": "Extract name, date, and amount from: Invoice INV-2026 from Acme Corp dated May 15, 2026 for $1,250."}],
    "response_format": { "type": "json_object" }
  }'
Реестр фактов — каждая утверждаемая величина имеет источник
источникURLполучено
Дата релизаdeveloper.nvidia.com ↗2026-05-28проверено
Архитектураresearch.nvidia.com ↗2026-05-28проверено
Родная длина контекстаdeveloper.nvidia.com ↗2026-05-28проверено
Контекст на AWS Bedrockdocs.aws.amazon.com ↗2026-05-28проверено
Макс. вывод (TheRouter)docs.aws.amazon.com ↗2026-05-28проверено
Обучающие данныеbuild.nvidia.com ↗2026-05-28проверено
Пост-обучениеdeveloper.nvidia.com ↗2026-05-28проверено
Лицензияwww.nvidia.com ↗2026-05-28проверено
Поддерживаемые языкиaws.amazon.com ↗2026-05-28проверено
PinchBenchdeveloper.nvidia.com ↗2026-05-28проверено
AIME 2025aws.amazon.com ↗2026-05-28неизвестно
MMLU-ProNVIDIA NeMo Nemotron 3 Super evaluation recipe ↗2026-08-25проверено
GPQA (with tools)NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗2026-08-25проверено
Arena-Hard V2NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗2026-08-25проверено
RULERNVIDIA NeMo Nemotron 3 Super evaluation recipe ↗2026-08-25проверено
TerminalBench 2.0NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗2026-08-25проверено
SWE-Bench Verifiedaws.amazon.com ↗2026-05-28неизвестно
NVIDIA выпускает Nemotron 3 Super — открытую гибридную MoE для агентного мышленияdeveloper.nvidia.com ↗2026-05-28проверено
AWS Bedrock запускает Nemotron 3 Super с полностью управляемым инференсомaws.amazon.com ↗2026-05-28проверено
DeepInfra добавляет Nemotron 3 Super с быстрым инференсомdeepinfra.com ↗2026-05-28проверено
Чем LatentMoE отличается от стандартной MoE?developer.nvidia.com ↗2026-05-28к проверке
Какой контекст Nemotron 3 Super поддерживает на самом деле?docs.aws.amazon.com ↗2026-05-28к проверке
Как Nemotron 3 Super сравнивается с предыдущими моделями NVIDIA?developer.nvidia.com ↗2026-05-28к проверке
Подходит ли Nemotron 3 Super для одноразовых чат-сессий?llm-stats.com ↗2026-05-28к проверке
Какие инструменты/параметры поддерживаются через TheRouter API?docs.aws.amazon.com ↗2026-05-28к проверке
Помощь и контакты