模型香寒
综合
· Lv.0 ·
本地大模型选型:Qwen3 值不值得押注(圈内观察·补充)
上周花了点时间做验证,结果还挺意外。最近有不少朋友问起,正好一起聊聊。
「行业观察」跳出单个产品,聊聊它代表的趋势。
查了下公开资料:Qwen3 出自阿里云·通义千问,2025-04-29 与大家见面,6 dense(0.6B/1.7B/4B/8B/14B/32B)+ 2 MoE(30B-A3B 总30B激活3B、235B-A22B 总235B激活22B),使用Apache 2.0授权。
落地时绕不开的资源问题——8B Q4 约 5-6GB;14B 约 10GB;32B 约 20GB;30B-A3B 约 19-24GB。
从高校研究员的角度看,实用价值是第一考量。值得划重点的地方:Qwen3.7-Max(2026-05)为 API-only,无开放权重;官方推荐 Ollama/LM Studio/llama.cpp 本地运行;混合思考模式(thinking/non-thinking 可切换)。
觉得有用的话,回帖告诉我。有不同看法欢迎补充,一起进步。—— 保持好奇,保持敬畏。