Nemotron Super 120B
供应商自营与 TheRouter 服务形态的差异
NVIDIA 将 Nemotron 3 Super 作为开放权重、数据集、训练配方、NIM 部署和原生 1M Token 上下文模型发布。AWS Bedrock 以 nvidia.nemotron-super-3-120b 提供同一模型,开放 256K 上下文、32K 最大输出、纯文本输入输出、Chat Completions、Invoke、Converse、流式响应、结构化输出、guardrails 和客户端工具调用。
TheRouter 将其作为 nvidia/nemotron-super-120b 通过 OpenAI 兼容 /v1/chat/completions 暴露。面向客户的上下文、输出、价格、模态和支持参数以 TheRouter 实时 catalog 为准;本页面记录上游 Bedrock 模型卡比 NVIDIA 原生 1M 上下文更窄,并说明 snippets 在运营者付费验证前保持封顶状态。
API 使用指南
Chat 调用
Nemotron 3 Super 通过 TheRouter API 支持与 OpenAI 兼容的 Chat Completion。模型支持工具调用、tool_choice、response_format(JSON 模式)、stop 序列、temperature、top_p 和 max_tokens。
curl https://api.therouter.ai/v1/chat/completions \
-H "Authorization: Bearer $THEROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "nvidia/nemotron-super-120b",
"messages": [
{"role": "system", "content": "You are a helpful AI assistant."},
{"role": "user", "content": "Write a Python function to recursively find all .py files in a directory."}
],
"temperature": 0.3,
"max_tokens": 4096
}'流式调用
Nemotron 3 Super 支持流式返回,通过 SSE 实现逐 Token 实时响应,使用 OpenAI 兼容 API 并设置 stream: true。
curl https://api.therouter.ai/v1/chat/completions \
-H "Authorization: Bearer $THEROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "nvidia/nemotron-super-120b",
"messages": [{"role": "user", "content": "Explain how latent MoE works in simple terms"}],
"stream": true
}'工具调用
Nemotron 3 Super 原生支持工具/函数调用,非常适合需要结构化工具编排的智能体工作流。
curl https://api.therouter.ai/v1/chat/completions \
-H "Authorization: Bearer $THEROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "nvidia/nemotron-super-120b",
"messages": [{"role": "user", "content": "What is the weather in Tokyo?"}],
"tools": [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get current weather for a location",
"parameters": {
"type": "object",
"properties": {
"location": {"type": "string", "description": "City name"}
},
"required": ["location"]
}
}
}],
"tool_choice": "auto"
}'JSON 模式
Nemotron 3 Super 支持通过 response_format 输出 JSON 结构化数据,实现从非结构化输入中可靠提取结构化信息。
curl https://api.therouter.ai/v1/chat/completions \
-H "Authorization: Bearer $THEROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "nvidia/nemotron-super-120b",
"messages": [{"role": "user", "content": "Extract name, date, and amount from: Invoice INV-2026 from Acme Corp dated May 15, 2026 for $1,250."}],
"response_format": { "type": "json_object" }
}'事实档案 — 本页每条断言可在此回溯来源
| 来源 | URL | 采集于 | |
|---|---|---|---|
| 发布日期 | developer.nvidia.com ↗ | 2026-05-28 | 已核实 |
| 架构 | research.nvidia.com ↗ | 2026-05-28 | 已核实 |
| 原生上下文长度 | developer.nvidia.com ↗ | 2026-05-28 | 已核实 |
| AWS Bedrock 上下文 | docs.aws.amazon.com ↗ | 2026-05-28 | 已核实 |
| 最大输出 (TheRouter) | docs.aws.amazon.com ↗ | 2026-05-28 | 已核实 |
| 训练数据 | build.nvidia.com ↗ | 2026-05-28 | 已核实 |
| 后训练 | developer.nvidia.com ↗ | 2026-05-28 | 已核实 |
| 许可协议 | www.nvidia.com ↗ | 2026-05-28 | 已核实 |
| 支持的语言 | aws.amazon.com ↗ | 2026-05-28 | 已核实 |
| PinchBench | developer.nvidia.com ↗ | 2026-05-28 | 已核实 |
| AIME 2025 | aws.amazon.com ↗ | 2026-05-28 | 未知 |
| MMLU-Pro | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | 2026-08-25 | 已核实 |
| GPQA (with tools) | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | 2026-08-25 | 已核实 |
| Arena-Hard V2 | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | 2026-08-25 | 已核实 |
| RULER | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | 2026-08-25 | 已核实 |
| TerminalBench 2.0 | NVIDIA NeMo Nemotron 3 Super evaluation recipe ↗ | 2026-08-25 | 已核实 |
| SWE-Bench Verified | aws.amazon.com ↗ | 2026-05-28 | 未知 |
| NVIDIA 发布 Nemotron 3 Super — 面向智能体推理的开源混合 MoE 模型 | developer.nvidia.com ↗ | 2026-05-28 | 已核实 |
| AWS Bedrock 推出 Nemotron 3 Super,提供全托管推理 | aws.amazon.com ↗ | 2026-05-28 | 已核实 |
| DeepInfra 提供 Nemotron 3 Super,支持快速推理 | deepinfra.com ↗ | 2026-05-28 | 已核实 |
| LatentMoE 与标准 MoE 有何不同? | developer.nvidia.com ↗ | 2026-05-28 | 待核实 |
| Nemotron 3 Super 实际支持多长的上下文窗口? | docs.aws.amazon.com ↗ | 2026-05-28 | 待核实 |
| Nemotron 3 Super 与 NVIDIA 之前的模型相比如何? | developer.nvidia.com ↗ | 2026-05-28 | 待核实 |
| Nemotron 3 Super 适合单轮聊天机器人使用吗? | llm-stats.com ↗ | 2026-05-28 | 待核实 |
| TheRouter API 支持哪些工具/参数? | docs.aws.amazon.com ↗ | 2026-05-28 | 待核实 |