Назад к моделям

Mistral Large 3

mistralmistral/mistral-large-3

Гид по API

Chat completion

Стандартный chat через OpenAI-совместимую поверхность TheRouter. Mistral Large 3 — модель общего назначения; OpenAI SDK работает после замены baseURL.

cURL
curl https://api.therouter.ai/v1/chat/completions \
  -H "Authorization: Bearer $THEROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral/mistral-large-3",
    "messages": [{"role": "user", "content": "Explain sparse MoE architectures to a junior developer."}]
  }'

Стриминг

Стримит токены для чат-UI. MoE-архитектура Large 3 обеспечивает конкурентоспособную задержку первого токена даже на полном контексте 256K.

cURL
curl https://api.therouter.ai/v1/chat/completions \
  -H "Authorization: Bearer $THEROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral/mistral-large-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Write a 50-word haiku about GPU clusters."}]
  }'

Использование инструментов

Mistral Large 3 поддерживает function calling и tool_choice в формате OpenAI через нормализованную поверхность TheRouter.

cURL
curl https://api.therouter.ai/v1/chat/completions \
  -H "Authorization: Bearer $THEROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral/mistral-large-3",
    "messages": [{"role": "user", "content": "What is the weather in Paris?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "parameters": {"type": "object", "properties": {"city": {"type": "string"}}}
      }
    }]
  }'

Структурированный JSON

Через response_format ограничьте вывод JSON. Large 3 надёжно следует явному контракту формы.

cURL
curl https://api.therouter.ai/v1/chat/completions \
  -H "Authorization: Bearer $THEROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral/mistral-large-3",
    "response_format": {"type": "json_object"},
    "messages": [
      {"role": "system", "content": "Return JSON with fields: name, age, department."},
      {"role": "user", "content": "Extract employee info from this email..."}
    ]
  }'

Self-host

Веса Large 3 можно скачать с Hugging Face под Apache 2.0. NVFP4-квантизация и оптимизированные для Blackwell ядра позволяют развёртывание на одном узле 8×GPU. Эталонный инференс через vLLM или SGLang.

cURL
# Reference vLLM launch. See HF model card for exact tensor-parallel sizing.
python -m vllm.entrypoints.openai.api_server \
  --model mistralai/Mistral-Large-3 \
  --tensor-parallel-size 8 \
  --port 8000

# Then call it through TheRouter as model="mistral/mistral-large-3"
# with TheRouter configured to use your self-hosted endpoint as the upstream.
Реестр фактов — каждая утверждаемая величина имеет источник
источникURLполучено
Архитектураdocs.mistral.ai ↗2026-05-28проверено
Окно контекстаdocs.mistral.ai ↗2026-05-28проверено
Лицензияmistral.ai ↗2026-05-28проверено
Инфраструктура обученияmistral.ai ↗2026-05-28проверено
Языкиwww.digitalapplied.com ↗2026-05-28к проверке
Квантизация / эффективность self-hostingmistral.ai ↗2026-05-28проверено
MMLU (8-language)mistral.ai ↗2026-05-28проверено
HumanEval (Pass@1)www.digitalapplied.com ↗2026-05-28проверено
MATH-500www.digitalapplied.com ↗2026-05-28проверено
MMLU-Prowww.digitalapplied.com ↗2026-05-28к проверке
GPQA Diamondwww.digitalapplied.com ↗2026-05-28к проверке
LMArena (open-source non-reasoning)mistral.ai ↗2026-05-28проверено
Mistral AI выпускает семейство Mistral 3 — Mistral Large 3 (675B MoE) под лицензией Apache 2.0mistral.ai/news ↗2026-05-28проверено
Карточка модели Mistral Large 3 опубликована на docs.mistral.ai и Hugging Facedocs.mistral.ai ↗2026-05-28проверено
В чём разница между Mistral Large 3 (675B) и меньшими моделями Mistral?mistral.ai ↗2026-05-28к проверке
Можно ли запускать Mistral Large 3 на своём железе?huggingface.co ↗2026-05-28к проверке
Какая лицензия у Mistral Large 3?mistral.ai ↗2026-05-28к проверке
Поддерживает ли Mistral Large 3 изображения на входе?docs.mistral.ai ↗2026-05-28к проверке
Помощь и контакты