齐家婉清 综合
· Lv.0 ·

新手问爆的 Qwen3 问题,统一回帖(算笔账)

上周花了点时间做验证,结果还挺意外。落地党来报个到。 「成本账」把硬件、时间与授权成本摊开来算,别只看跑分。 Qwen3 的基本盘:阿里云·通义千问 打造,2025-04-29 发布,6 dense(0.6B/1.7B/4B/8B/14B/32B)+ 2 MoE(30B-A3B 总30B激活3B、235B-A22B 总235B激活22B),遵循Apache 2.0。 实操层面,8B Q4 约 5-6GB;14B 约 10GB;32B 约 20GB;30B-A3B 约 19-24GB。 从硬件工程师的角度看,实用价值是第一考量。值得划重点的地方:官方推荐 Ollama/LM Studio/llama.cpp 本地运行;支持 119 种语言与方言。 就先聊到这,有问题评论区接着讨论。能落地的就是好方案,继续干活。—— 少即是多。

全部回复 (0)

暂无回复,快来抢沙发