返回模型列表

Qwen3 8B

qwenqwen/qwen3-8b

Qwen3 8B — compact and fast, ideal for lightweight tasks and high-throughput scenarios.

Qwen3-8B 是阿里 Qwen 团队推出的紧凑型 82 亿参数稠密因果语言模型——Qwen3 稠密系列中入门级高效档位。模型拥有 36 个 Transformer 层和 32/8 GQA 注意力头,于 2025 年 4 月以 Apache 2.0 授权发布。根据 Qwen3 技术报告,Qwen3-8B 基础模型性能与 Qwen2.5-14B-Base 相当,代表参数效率的代际跃升:以 8B 参数量和显著更低的推理成本获得上一代 14B 级别的能力。

与所有 Qwen3 指令模型一样,Qwen3-8B 原生支持混合思考:单一检查点在深度推理思考模式(在 <think> 块中输出逐步推理)和快速非思考模式之间切换,通过每次请求的 enable_thinking 或 /think / /no_think token 控制。以每百万 token $0.03/$0.06 的价格,Qwen3-8B 是 Qwen3 稠密系列中成本最低的入门产品——适合高吞吐管道、快速草稿和分类任务,这些场景中速度和成本比绝对推理上限更重要。需要在更难分析或多步骤任务上提升质量的团队,可以升级到 qwen/qwen3-14b($0.03/$0.06 对比 $0.07/$0.21),无需更改任何 API 接入逻辑。

适合使用
  • • 高吞吐量、成本敏感的管道——以每百万 token $0.03/$0.06 的价格,Qwen3-8B 是 Qwen3 稠密系列最低成本入口;适合量和延迟比推理深度更重要的任务
  • • 分类、路由和提取任务——简单 NLU 工作负载,Qwen3-8B 的 Qwen2.5-14B 级能力远超所需质量门槛
  • • 带工具调用的轻量 agentic 循环——在思考和非思考两种模式下均支持 tools 和 tool_choice;多轮短交互的 agent 循环每次调用成本低于 Qwen3-14B
  • • 多语言文本任务——继承自 Qwen3 系列的 119 种语言和方言支持;适合低成本的翻译、摘要和多语言分类
  • • 边缘、设备端或自托管推理——约 8B 参数,Qwen3-8B 可轻松运行在单张消费级 GPU(如 4 位量化的 RTX 3090/4070)或 Apple Silicon 上,性能功耗比高;Apache 2.0 支持无限制商业使用
不适合使用
  • • 复杂多步推理、竞赛数学或复杂代码生成——当推理深度是瓶颈时,路由到 qwen/qwen3-14b 或 qwen/qwen3-32b;Qwen3-8B 是入门档,不是上限
  • • 对每 token 成本要求极低的最高吞吐量批量任务——qwen/qwen3-30b-a3b(MoE,3B 激活参数)尽管总参数量更大,但规模化时每 token 服务成本更低
  • • 原生图像或音频输入——Qwen3-8B 仅支持文本输入/文本输出;视觉语言任务请使用参数量相近的 qwen/qwen3-vl-8b
上下文长度
131K
最大输出
33K
输入价格每百万 tokens
$0.1944每百万 Tokens
输出价格每百万 tokens
$0.756每百万 Tokens

模态能力

文本→文本

价格明细

类型费率
输入$0.1944 每百万 Tokens
输出$0.756 每百万 Tokens

支持参数

temperaturemax_tokenstop_ptoolstool_choiceresponse_formatstop

模型规格

总参数量8.2Bhuggingface.co/Qwen ↗已核实
架构稠密因果 Transformer,36 层,GQA 32/8(Q/KV 头)huggingface.co/Qwen ↗已核实
上下文长度131,072 token(原生 32,768;通过 YaRN 扩展至 131,072)huggingface.co/Qwen ↗已核实
最大补全 token 数32,768huggingface.co/Qwen ↗已核实
授权协议Apache 2.0huggingface.co/Qwen ↗已核实
发布日期2025 年 4 月qwenlm.github.io ↗已核实
训练阶段预训练 & 后训练(指令模型)huggingface.co/Qwen ↗已核实
相对上一代的有效效率以 8B 参数达到 Qwen2.5-14B-Base 水平——参数效率提升整整一代qwenlm.github.io ↗已核实

基准成绩

BenchmarkDistributionScoreSource
MMLU
基础模型;5-shot
76.57%arxiv.org — Qwen3 technical report ↗
MMLU-Pro
基础模型
55.92%arxiv.org — Qwen3 technical report ↗
BBH (BIG-Bench Hard)
基础模型;3-shot CoT
76.84%arxiv.org — Qwen3 technical report ↗
GSM8K
基础模型;4-shot
88.93%arxiv.org — Qwen3 technical report ↗
GPQA
基础模型;研究生级科学题
36.87%arxiv.org — Qwen3 technical report ↗

API 使用示例

所有新集成都应使用下方示例中的全球端点 api.therouter.ai;旧中国加速端点已下线。

cURL
curl https://api.therouter.ai/v1/chat/completions   -H "Content-Type: application/json"   -H "Authorization: Bearer $THE_ROUTER_API_KEY"   -d '{
    "model": "qwen/qwen3-8b",
    "messages": [
      {"role": "user", "content": "Summarize the key points from this input."}
    ]
  }'

qwen 其他模型

同类模型

跨供应商的相似能力档位

动态与变更

2025-04-29

Qwen3 系列发布——Qwen3-8B 列于六个开源稠密模型之中

阿里 Qwen 发布完整 Qwen3 系列,其中 Qwen3-8B 为 82 亿参数稠密因果语言模型,具备混合思考模式、128K 上下文(YaRN 扩展)、119 种语言支持和 Apache 2.0 授权。发布声明强调 Qwen3-8B 基础模型与 Qwen2.5-14B-Base 性能相当,代表参数效率整整提升一代。以每百万 token $0.03/$0.06 的价格,它是 Qwen3 稠密系列中最具成本优势的入门产品。

TheRouter 编辑重写qwenlm.github.io ↗
2025-05-15

Qwen3 技术报告发布于 arXiv

Qwen 团队发布完整技术报告(arXiv 2505.09388),涵盖预训练、后训练、混合思考架构、多语言能力,以及 Qwen3 系列(含 Qwen3-8B)的对比基准。报告记录了 Qwen3-8B 的基础模型基准:MMLU 76.57、BBH 76.84、GSM8K 88.93、GPQA 36.87。

TheRouter 编辑重写arxiv.org ↗

常见问题

Qwen3-8B 与 Qwen3-14B 相比如何?

Qwen3-8B(36 层,GQA 32/8,8.2B 参数)是入门档;Qwen3-14B(40 层,GQA 40/8,14.8B 参数)是下一档。两者均支持混合思考和 128K 上下文。Qwen3-8B 基础模型达到 Qwen2.5-14B-Base 水平;Qwen3-14B 基础模型达到 Qwen2.5-32B-Base 水平——能力上额外提升整整一代参数量。成本方面:Qwen3-8B 每百万 token $0.03/$0.06,Qwen3-14B 为 $0.07/$0.21。高吞吐量或较简单的任务用 Qwen3-8B;当推理深度或答案质量成为约束时升级到 14B。

如何在思考模式和非思考模式之间切换?

通过 TheRouter,在 /v1/chat/completions 上使用 reasoning 参数。直接自托管时,在 chat template 中设置 enable_thinking=True 或 enable_thinking=False,或在系统提示或首条用户消息中加入 /think 或 /no_think。思考模式为默认值。思考模式激活时,响应包含 <think>...</think> 块,展示给终端用户前应解析或过滤。

qwen/qwen3-8b 在 TheRouter 上的有效上下文窗口是多少?

模型的原生上下文为 32,768 token,通过 YaRN 位置插值扩展至 131,072 token。TheRouter 将 context_length 设置为 131,072,max_completion 为 32,768。在 YaRN 范围的远端,针对非常复杂的提示词性能可能有所下降;上线生产前请验证最大输入。

Qwen3-8B 支持工具调用和结构化输出吗?

支持。Qwen3-8B 通过 TheRouter 上的标准 OpenAI 兼容参数支持用于函数调用的 tools 和 tool_choice,以及用于结构化输出的 response_format。在思考和非思考两种模式下均保持工具调用能力,适合轻量 agentic 管道。

可以从 Cursor、Cline 或其他 OpenAI 兼容客户端使用 Qwen3-8B 吗?

可以。TheRouter 通过 OpenAI 兼容的 /v1/chat/completions 端点暴露 qwen/qwen3-8b。将客户端的 base URL 设置为 TheRouter 端点,配置 API key,并将 model 设置为 qwen/qwen3-8b。流式传输、tools 和 response_format 均支持。

事实档案 — 本页每条断言可在此回溯来源
来源URL采集于
总参数量huggingface.co/Qwen ↗2026-06-09已核实
架构huggingface.co/Qwen ↗2026-06-09已核实
上下文长度huggingface.co/Qwen ↗2026-06-09已核实
最大补全 token 数huggingface.co/Qwen ↗2026-06-09已核实
授权协议huggingface.co/Qwen ↗2026-06-09已核实
发布日期qwenlm.github.io ↗2026-06-09已核实
训练阶段huggingface.co/Qwen ↗2026-06-09已核实
相对上一代的有效效率qwenlm.github.io ↗2026-06-09已核实
MMLUarxiv.org — Qwen3 technical report ↗2026-06-09已核实
MMLU-Proarxiv.org — Qwen3 technical report ↗2026-06-09已核实
BBH (BIG-Bench Hard)arxiv.org — Qwen3 technical report ↗2026-06-09已核实
GSM8Karxiv.org — Qwen3 technical report ↗2026-06-09已核实
GPQAarxiv.org — Qwen3 technical report ↗2026-06-09已核实
Qwen3 系列发布——Qwen3-8B 列于六个开源稠密模型之中qwenlm.github.io ↗2026-06-09已核实
Qwen3 技术报告发布于 arXivarxiv.org ↗2026-06-09已核实
Qwen3-8B 与 Qwen3-14B 相比如何?qwenlm.github.io ↗2026-06-09待核实
如何在思考模式和非思考模式之间切换?huggingface.co ↗2026-06-09待核实
qwen/qwen3-8b 在 TheRouter 上的有效上下文窗口是多少?huggingface.co ↗2026-06-09待核实
Qwen3-8B 支持工具调用和结构化输出吗?huggingface.co ↗2026-06-09待核实
可以从 Cursor、Cline 或其他 OpenAI 兼容客户端使用 Qwen3-8B 吗?qwenlm.github.io ↗2026-06-09待核实
帮助与联系