智源社区 14小时前
Qwen紧追OpenAI开源4B端侧大模型,AIME25得分超越Claude 4 Opus
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

Qwen团队再次开源两个端侧模型Qwen3-4B-Instruct-2507和Qwen3-4B-Thinking-2507,前者提升通用能力,后者专为专家级任务设计。这两个4B参数量模型在多个测试集上表现优异,甚至超越更大模型,且对端侧极其友好,可在树莓派上运行。Qwen3-4B-Instruct-2507在通用能力上超越GPT-4.1-nano,Qwen3-4B-Thinking-2507在AIME25测评中得分81.3,碾压同类模型。官方提供了部署建议和prompt技巧,代码已开源。

🔍 Qwen3-4B-Instruct-2507是一个非推理模型,通用能力显著提升,包括指令遵循、逻辑推理、文本理解、数学、科学、编程和工具使用,多语言长尾知识覆盖大幅增长,256K长上下文理解能力增强。

🧠 Qwen3-4B-Thinking-2507是高级推理模型,专为专家级任务设计,推理任务性能显著提升,包括逻辑推理、数学、科学、编程,通用能力也显著提升,256K长上下文理解能力增强。

🌐 4B参数量对端侧极其友好,甚至可在树莓派上运行,Qwen3-4B-Instruct-2507在诸多测试集上性能超越GPT-4.1-nano,Qwen3-4B-Thinking-2507在AIME25测评中得分81.3,碾压同类模型。

💡 官方提供了部署建议和prompt技巧,如面对数学问题推荐在prompt中包含“请逐步推理,并将最终答案放在oxed{}内。”,面对选择题推荐添加JSON结构以标准化回答。

🚀 Qwen团队持续提升模型能力,Qwen3系列模型在多个测试集上表现优异,引发网友呼吁开源更大模型,市场竞争激烈。

三天不开源,Qwen团队手就痒。

昨天深夜再次放出两个端侧模型:

    Qwen3-4B-Instruct-2507:非推理模型,大幅提升通用能力

    Qwen3-4B-Thinking-2507:高级推理模型,专为专家级任务设计

4B这个尺寸对端侧非常友好,甚至意味着可以在树莓派上运行它

Qwen官方推文中对这俩模型的介绍是:

更智能、更精准,并且支持256k上下文,更具上下文感知能力。

在AIME25上,Qwen3-4B-Thinking-2507四两拨千斤,最后得分是81.3。

这个成绩已经超过了Gemini 2.5 Pro(49.8~88.0)和Claude 4 Opus(75.5)在AIME25的得分——仅仅靠一个4B的模型!

而且,4B参数量意味着对端侧极其友好。

也难怪网友在Ycombinator上惊呼:

感谢中国公司!

4B模型大升级,四两拨千斤

官方推文上,是这么介绍两位Qwen3家族新成员的:

    Qwen3-4B-Instruct-2507:提升通用能力、多语言覆盖和长上下文指令理解。
    Qwen3-4B-Thinking-2507:逻辑、数学、科学及代码中的高级推理能力——专为专家级任务设计。

Qwen团队直言不讳,称这两个模型“更加强大”。

浅浅回顾一下,今年4月底,Qwen3系列首登场时,Qwen-4B-Base作为第一批八个成员之一亮相。

当时,Qwen3-4B就能在数学、代码能力上“以小博大”,和比自身大10倍模型水平相当。

现在同样在多个测试集上可以看到,Qwen3-4B-Instruct-2507和Qwen3-4B-Thinking-2507对于前作都有非常明显的能力提升。

Qwen3-4B-Instruct-2507

Qwen3-4B-Instruct-2507是一个非推理模型,具有以下关键改进:

    在通用能力方面有显著提升,包括指令遵循、逻辑推理、文本理解、数学、科学、编程和工具使用。

    在多语言长尾知识覆盖方面有大幅增长。

    在主观和开放性任务中与用户偏好显著匹配,能够提供更有帮助的响应和更高质量的文本生成。

    256K长上下文理解能力增强,可扩展至1M。

在诸多测试集上,该模型通用能力超越了闭源的小尺寸模型GPT-4.1-nano。

(注:GPT-4.1-nano是GPT-4.1系列中最小规模的模型,未公开参数量)

和Qwen3-30B-A3B(Non-Thinking)对比,Qwen3-4B-Instruct-2507与其性能接近,还小胜一筹。

换句话说,这个4B的密集模型在性能上与30B的MoE模型能力非常接近,但“占地面积”却小了7.5倍

Qwen3-4B-Thinking-2507

在抱抱脸上,Qwen团队写道:

在过去三个月中,我们持续提升Qwen3-4B的思考能力,增强了推理的质量和深度。

于是,Qwen3-4B-Thinking-2507诞生了,这是一个仅支持推理模式的模型

在前作基础上,这一模型主要有以下改进:

    在推理任务上性能显著提升,包括逻辑推理、数学、科学、编程以及通常需要人类专业知识的学术基准测试。
    通用能力显著提升,包括指令理解、工具使用、文本生成以及与人类偏好的对齐。
    增强的256K长上下文理解能力。

官方在抱抱脸表示,由于Qwen3-4B-Thinking-2507增加了思考长度,“强烈建议在高度复杂的推理任务中使用它”。

在重点考察数学能力的AIME25测评中,Qwen3-4B-Thinking-2507以4B参数量斩获81.3的好成绩。

此外,在GPQA上,其得分与Qwen-30B-A3B(Thinking)得分相当;Agent方面的每一项测试,Qwen3-4B-Thinking-2507碾压了前代版本以及Qwen-30B-A3B(Thinking)。

端侧开发者福音

现在,Qwen3-4B-Instruct-2507以及Qwen3-4B-Thinking-2507的代码可在抱抱脸和魔搭社区找到,文末放上了直通车,方便大家寻找

官方还贴心地给出了部署建议:

第一,对于本地使用,Ollama、LMStudio、MLX-LM、llama.cpp和KTransformers等应用程序也已支持模型部署。

对于极小型设备(如树莓派4B),可使用量化版本Qwen3-4B-GGUF,搭配llama.cpp运行。

第二,如果遇到内存不足(OOM)问题,可以考虑将上下文长度减少到一个更短的值。

由于Qwen3-4B-Thinking-2507是一个推理模型,在推理时可能需要更长的词元序列,强烈建议在可能的情况下使用大于131,072的上下文长度。

第三,虽然俩模型一个是推理模型一个是非推理模型,但官方对prompt给出了同样的建议。

面对数学问题时,推荐在prompt中包含“请逐步推理,并将最终答案放在\boxed{}内。”

面对选择题时,推荐在prompt中添加以下JSON 结构以标准化回答:”请在 answer 字段中仅显示选项字母,例如 “answer”: “C” 。”

最后,已经有网友在呼吁开源永动机Qwen团队赶紧交出Qwen3-8B系列了:

One More Thing

Qwen3系列到底有多少款模型?

答案是:不知道。

吃瓜群众们只知道这次小·大模型的更新非常使用,以及时间钱选得刚刚好——

昨天,久不Open的OpenAI终于开源了一次。

不仅和谷歌、Anthropic大撞期,而且gpt-oss-120b和gpt-oss-20b两个模型似乎并没有用性能征服开发者们。

今天半夜,也就是8月8日凌晨1点(太平洋时间8月7日上午10点),打了800集预告的GPT-5,或许就要来了……

8月刚开始就战况这么激烈,咱能怎么办?

搬小板凳,乖巧坐等呗~

抱抱脸直通车:
[1]https://huggingface.co/Qwen/Qwen3-4B-Instruct-2507
[2]https://huggingface.co/Qwen/Qwen3-4B-Thinking-2507

魔搭社区直通车:
[1]https://modelscope.cn/models/Qwen/Qwen3-4B-Instruct-2507
[2]https://modelscope.cn/models/Qwen/Qwen3-4B-Thinking-2507

参考链接:
[1]https://x.com/Alibaba_Qwen/status/1953128028047102241
[2]https://www.reddit.com/r/LocalLLaMA/comments/1mj8ndr/qwen_3_4b_thinking_model_released/
[3]https://news.ycombinator.com/item?id=44813627

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法!

—  —

💻 8月7日周四下午14点,量子位AI沙龙邀请了来自模型厂商、IDE、零代码平台、Agent等产品代表,一同聊聊AI Coding将如何重构开发

👩‍💻 欢迎线下参会!来和百度文心快码智谱Kimi硅心科技海新智能CREAOIDEA面对面交流 👇 

一键关注 👇 点亮星标

科技前沿进展每日见

内容中包含的图片若涉及版权问题,请及时与我们联系删除

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Qwen3-4B-Instruct-2507 Qwen3-4B-Thinking-2507 端侧模型 AI开源
相关文章