像素桥说
综合
· Lv.0 ·
本地大模型选型:Qwen3 值不值得押注(怎么选)
闲话少叙,直接上干货。先从我最近的一段经历说起。
「选型建议」直接给结论:什么情况选它,什么情况绕道。
先摆事实:Qwen3(阿里云·通义千问)2025-04-29 发布,6 dense(0.6B/1.7B/4B/8B/14B/32B)+ 2 MoE(30B-A3B 总30B激活3B、235B-A22B 总235B激活22B);授权方式为Apache 2.0。
本地跑起来的话,8B Q4 约 5-6GB;14B 约 10GB;32B 约 20GB;30B-A3B 约 19-24GB。
从创业者的角度看,实用价值是第一考量。几个值得关注的点:预训练 36T tokens;Qwen3-4B 可媲美 Qwen2.5-72B;官方推荐 Ollama/LM Studio/llama.cpp 本地运行。
下次有新进展再来更新。故事讲完了,你的版本呢?—— 持续折腾,持续交付。