返回模型列表

Ling Flash 2.0

inclusionaiinclusionai/ling-flash-2

InclusionAI Ling Flash 2.0 — fast inference model for general-purpose tasks.

Ling Flash 2.0 是由 InclusionAI 构建的混合专家(MoE)语言模型,于 2025 年 7 月 23 日开源。模型总参数为 100B,每个 Token 仅激活 6.1B(非嵌入层 4.8B),架构设计遵循 Ling Scaling Laws(arXiv 2507.17702)。训练语料超过 20T Token,并经过监督微调与多阶段强化学习的精调。

得益于 1/32 的激活比率,Ling Flash 2.0 相较于同等规模的稠密架构可实现约 7 倍的效率增益,并在 H20 硬件上达到 200+ Token/s 的推理速度,比同级 36B 稠密模型快 3 倍。借助 YaRN 推断,上下文窗口可扩展至 128K Token。该模型专为复杂推理、多步骤代码生成、前端开发及金融/医疗等专业垂直领域设计。

适合使用
  • • 需要高吞吐量的复杂多步推理任务(GPQA-Diamond、MMLU-Pro 难度级别)——MoE 激活机制在保持约 40B 稠密模型质量的同时,大幅降低单 Token 成本。
  • • 代码生成与前端开发——LiveCodeBench v6 和 CodeForces 的高分表现,使其成为通过 TheRouter 路由的智能编码 Pipeline 的有力选择。
  • • 金融与医疗领域的专业推理(FinanceReasoning、HealthBench 基准),在此类场景中,低 Token 成本的开源 SOTA 模型比封闭 API 更具竞争力。
不适合使用
  • • 多模态或图像理解任务——Ling Flash 2.0 仅支持文本;此类需求应路由至 google/gemini-2.5-flash 或 meta/llama-4-scout。
  • • 对首 Token 时间(TTFT)有严格要求(< 50 ms)的实时应用——尽管吞吐量高,MoE 架构仍需加载专家权重;此类场景建议选用 openai/gpt-4o-mini 或 google/gemini-2.0-flash-001。

供应商自营与 TheRouter 服务形态的差异

供应商自己运营时

InclusionAI 将 Ling Flash 2.0 发布为 MIT 许可的 Hugging Face 开源权重模型,并提供本地部署说明、原生 32K 上下文以及可选的 128K YaRN 外推方案。

在 TheRouter 上

TheRouter 通过 OpenAI 兼容的 chat 路由提供 inclusionai/ling-flash-2。运行时价格、上下文长度、区域与支持参数以 TheRouter 实时模型目录为准,而不是 Hugging Face 权重页。

上下文长度
131K
最大输出
33K
输入价格每百万 tokens
$0.1512每百万 Tokens
输出价格每百万 tokens
$0.6156每百万 Tokens

模态能力

文本→文本

价格明细

类型费率
输入$0.1512 每百万 Tokens
输出$0.6156 每百万 Tokens

支持参数

temperaturemax_tokenstop_pstop

模型规格

发布日期2025-07-23huggingface.co ↗已核实
架构MoE — 总参数 100B / 激活 6.1B(非嵌入层 4.8B),激活比率 1/32huggingface.co ↗已核实
训练数据量超过 20T Token 的高质量数据huggingface.co ↗已核实
训练数据截止未公开披露未知
许可MIThuggingface.co ↗已核实
推理吞吐量(H20)200+ Token/s — 日常使用比 36B 稠密模型快约 3 倍huggingface.co ↗已核实
上下文长度原生 32K;YaRN 推断后可达 128Khuggingface.co ↗已核实

基准成绩

BenchmarkDistributionScoreSource
MMLU-Pro
SOTA vs dense <40B at launchhuggingface.co ↗
GPQA-Diamond
Competitive vs Qwen3-32B-Non-Thinking and GPT-OSS-120B/lowhuggingface.co ↗
LiveCodeBench v6
Strong — outperforms 36B dense modelshuggingface.co ↗
AIME 2025
Strong advanced math performancehuggingface.co ↗
ARC-Prize
Reported competitive on logical reasoning trackhuggingface.co ↗

API 使用示例

所有新集成都应使用下方示例中的全球端点 api.therouter.ai;旧中国加速端点已下线。

cURL
curl https://api.therouter.ai/v1/chat/completions   -H "Content-Type: application/json"   -H "Authorization: Bearer $THE_ROUTER_API_KEY"   -d '{
    "model": "inclusionai/ling-flash-2",
    "messages": [
      {"role": "user", "content": "Summarize the key points from this input."}
    ]
  }'

API 使用指南

Chat 调用

cURL
curl https://api.therouter.ai/v1/chat/completions \
  -H "Authorization: Bearer $THEROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"inclusionai/ling-flash-2","messages":[{"role":"user","content":"Explain the Ling 2.0 MoE architecture in one paragraph."}]}'

inclusionai 其他模型

同类模型

跨供应商的相似能力档位

动态与变更

2025-07-23

InclusionAI 开源 Ling Flash 2.0——100B MoE 模型以 40B 稠密质量实现 3 倍速度

InclusionAI 在 HuggingFace 上以 MIT 许可证发布了 Ling Flash 2.0。该模型每次推理仅激活 100B 参数中的 6.1B,在 H20 GPU 上实现 200+ Token/s 的速度,同时在 GPQA-Diamond、LiveCodeBench v6、AIME 2025 和 FinanceReasoning 等基准上达到或超越 40B 以内的稠密模型。

TheRouter 编辑重写huggingface.co ↗

常见问题

Ling Flash 2.0 如何用仅 6B 的激活参数达到 40B 稠密模型的质量?

该模型采用以 Ling Scaling Laws 研究为指导的 1/32 激活比率 MoE 架构。关键设计选择——专家粒度、共享专家比率、无辅助损失的 sigmoid 路由、MTP 层、QK-Norm 和 Partial-RoPE——使小规模的激活切片能够利用更大的参数池。据 InclusionAI 报告,相较于同等质量水平的稠密模型,这可带来约 7 倍的效率增益。

TheRouter 编辑重写huggingface.co ↗
支持的最大上下文长度是多少?

原生支持 32K Token。通过 YaRN 推断(在 config.json 中添加 rope_scaling 字段),上下文窗口可扩展至 128K Token。随着输出长度的增加,由于模型的小激活量,相对于稠密同类模型的速度优势可提升至 7 倍甚至更高。

事实档案 — 本页每条断言可在此回溯来源
来源URL采集于
发布日期huggingface.co ↗2026-08-13已核实
架构huggingface.co ↗2026-08-13已核实
训练数据量huggingface.co ↗2026-08-13已核实
训练数据截止——未知
许可huggingface.co ↗2026-08-13已核实
推理吞吐量(H20)huggingface.co ↗2026-08-13已核实
上下文长度huggingface.co ↗2026-08-13已核实
MMLU-Prohuggingface.co ↗2026-08-13已核实
GPQA-Diamondhuggingface.co ↗2026-08-13已核实
LiveCodeBench v6huggingface.co ↗2026-08-13已核实
AIME 2025huggingface.co ↗2026-08-13已核实
ARC-Prizehuggingface.co ↗2026-08-13已核实
InclusionAI 开源 Ling Flash 2.0——100B MoE 模型以 40B 稠密质量实现 3 倍速度huggingface.co ↗2026-08-13已核实
Ling Flash 2.0 如何用仅 6B 的激活参数达到 40B 稠密模型的质量?huggingface.co ↗2026-08-13待核实
支持的最大上下文长度是多少?huggingface.co ↗2026-08-13待核实
帮助与联系