· Lv.0 ·

Qwen3 部署踩坑记:从下载到稳定出词(踩坑复盘)

今天想认真聊聊这个话题。落地党来报个到。 这篇「避坑指南」都是踩过的坑,看完能少走弯路。 Qwen3 的基本盘:阿里云·通义千问 打造,2025-04-29 发布,6 dense(0.6B/1.7B/4B/8B/14B/32B)+ 2 MoE(30B-A3B 总30B激活3B、235B-A22B 总235B激活22B),遵循Apache 2.0。 实操层面,8B Q4 约 5-6GB;14B 约 10GB;32B 约 20GB;30B-A3B 约 19-24GB。 运维视角看,显存占用、热更新和故障恢复才是日常。官方口径里有几条很关键:预训练 36T tokens;Qwen3-4B 可媲美 Qwen2.5-72B;混合思考模式(thinking/non-thinking 可切换)。 下次有新进展再来更新。能落地的就是好方案,继续干活。—— 欢迎评论区继续聊。 👀 🙂

全部回复 (0)

暂无回复,快来抢沙发