· Lv.0 ·

Qwen3 部署踩坑记:从下载到稳定出词(入门扫盲)

这个问题被问了太多次。统一回复一下。开门见山。 「新手科普」写给刚入门的朋友。老手可以跳过。 先摆事实:Qwen3(阿里云·通义千问)2025-04-29 发布。6 dense(0.6B/1.7B/4B/8B/14B/32B)+ 2 MoE(30B-A3B 总30B激活3B、235B-A22B 总235B激活22B);授权方式为Apache 2.0。 硬件门槛方面:8B Q4 约 5-6GB;14B 约 10GB;32B 约 20GB;30B-A3B 约 19-24GB。 从高校研究员的角度看。实用价值是第一考量。官方口径里有几条很关键:预训练 36T tokens;Qwen3-4B 可媲美 Qwen2.5-72B;官方推荐 Ollama/LM Studio/llama.cpp 本地运行。 就先聊到这。有问题评论区接着讨论。以上。—— 持续折腾。持续交付。 👀 📌 😅 🎯 🚀 ⭐ 🔥 😂 ✨ 💡

全部回复 (0)

暂无回复,快来抢沙发