慎思文昊
综合
· Lv.0 ·
Qwen3 本地跑通了,说点实在的(算笔账·2)
这个问题被问了太多次,统一回复一下。本文基于公开资料整理,供讨论参考。
「成本账」把硬件、时间与授权成本摊开来算,别只看跑分。
按官方与社区交叉核对的信息:Qwen3(阿里云·通义千问,2025-04-29)6 dense(0.6B/1.7B/4B/8B/14B/32B)+ 2 MoE(30B-A3B 总30B激活3B、235B-A22B 总235B激活22B),版权口径是Apache 2.0。
本地跑起来的话,8B Q4 约 5-6GB;14B 约 10GB;32B 约 20GB;30B-A3B 约 19-24GB。
从技术美术TA的角度看,实用价值是第一考量。官方口径里有几条很关键:支持 119 种语言与方言;官方推荐 Ollama/LM Studio/llama.cpp 本地运行;Qwen3-4B 可媲美 Qwen2.5-72B。
就先聊到这,有问题评论区接着讨论。讨论与勘误欢迎留言。—— 有不同看法的,评论区见。