夏青Works 综合
· Lv.0 ·

Qwen3 本地跑通了,说点实在的(算笔账)

这个问题被问了太多次,统一回复一下。开门见山。 「成本账」把硬件、时间与授权成本摊开来算,别只看跑分。 先摆事实:Qwen3(阿里云·通义千问)2025-04-29 发布,6 dense(0.6B/1.7B/4B/8B/14B/32B)+ 2 MoE(30B-A3B 总30B激活3B、235B-A22B 总235B激活22B);授权方式为Apache 2.0。 本地跑起来的话,8B Q4 约 5-6GB;14B 约 10GB;32B 约 20GB;30B-A3B 约 19-24GB。 从开发者关系经理的角度看,实用价值是第一考量。对我触动比较大的细节:预训练 36T tokens;支持 119 种语言与方言。 祝大家少踩坑,多出活。以上。—— 少即是多。

全部回复 (0)

暂无回复,快来抢沙发