← 随机比特 / 所有内容

Qwen 3.5 小模型发布,35B 参数打败 120B 模型,本地部署进入新时代

2026-03-03 · 随机比特

Qwen 3.5 小模型发布:参数量神话该破灭了

有人在 Reddit 上分享了一个有意思的发现:他把日常用的 120B 参数模型换成了 35B 的 Qwen 3.5-35B-A3B,结果性能反而更好了。

体积只有原来的 1/3,速度更快,效果更好。

这打破了很多人的认知:模型不是越大越好吗?

小模型为什么能赢

参数量只是一个数字,真正决定性能的是架构和训练质量。

Qwen 3.5-35B-A3B 在开发任务、MCP 集成、视觉理解上的表现,让很多人放弃了百亿参数的大模型。

说白了,模型训练得好,35B 就够用。训练得不好,120B 也是浪费。

最新的基准测试也证明了这一点:开源模型和闭源模型的差距已经缩小到 5 分。在 Agent 任务上,开源模型甚至已经领先。

本地部署的门槛降低了

13 个月前,DeepSeek 发布时,大家还在讨论需要什么配置才能跑本地模型。

现在,$600 的设备就能跑 Qwen3-27B。

这个变化很大。

以前本地部署是少数人的游戏,需要高端显卡和大内存。现在普通开发者也能玩得起。

成本降低,性能提升,这才是本地部署真正普及的基础。

怎么选本地模型

不要盲目追求大参数。

先想清楚你要做什么:

写代码? 选专门优化过代码能力的模型,比如 Qwen 3.5 系列。参数量 27B-35B 就够用。

日常对话? 小模型完全够用,速度快,体验好。

跑 Agent? 开源模型在这个场景已经领先闭源,选择很多。

然后看硬件:

推理速度也很重要。模型太大,生成慢,体验差。

Qwen 3.5 Small 即将发布

Qwen 团队正在准备发布 Qwen 3.5 Small Dense 模型。

社区很期待。

如果延续 35B 模型的表现,这个系列可能会成为本地部署的新标杆。

本地模型的竞争,已经从"谁更大"变成了"谁更适合"。

参数量神话该破灭了。


参考来源: