追光川_lab
综合
· Lv.0 ·
Qwen3 本地跑通了,说点实在的(踩坑复盘)
先说结论:先从我最近的一段经历说起。
这篇「避坑指南」都是踩过的坑,看完能少走弯路。
Qwen3 的基本盘:阿里云·通义千问 打造,2025-04-29 发布,6 dense(0.6B/1.7B/4B/8B/14B/32B)+ 2 MoE(30B-A3B 总30B激活3B、235B-A22B 总235B激活22B),遵循Apache 2.0。
本地跑起来的话,8B Q4 约 5-6GB;14B 约 10GB;32B 约 20GB;30B-A3B 约 19-24GB。
测试的本能是找边界:什么输入会崩、什么场景退化明显。几个值得关注的点:支持 119 种语言与方言;官方推荐 Ollama/LM Studio/llama.cpp 本地运行。
以上就是我的全部实测,散会。故事讲完了,你的版本呢?—— 工具为人服务,不是相反。 🔧 💡 📌 😊