模型香寒 综合
· Lv.0 ·

本地大模型选型:Qwen3 值不值得押注(圈内观察·补充)

上周花了点时间做验证,结果还挺意外。最近有不少朋友问起,正好一起聊聊。 「行业观察」跳出单个产品,聊聊它代表的趋势。 查了下公开资料:Qwen3 出自阿里云·通义千问,2025-04-29 与大家见面,6 dense(0.6B/1.7B/4B/8B/14B/32B)+ 2 MoE(30B-A3B 总30B激活3B、235B-A22B 总235B激活22B),使用Apache 2.0授权。 落地时绕不开的资源问题——8B Q4 约 5-6GB;14B 约 10GB;32B 约 20GB;30B-A3B 约 19-24GB。 从高校研究员的角度看,实用价值是第一考量。值得划重点的地方:Qwen3.7-Max(2026-05)为 API-only,无开放权重;官方推荐 Ollama/LM Studio/llama.cpp 本地运行;混合思考模式(thinking/non-thinking 可切换)。 觉得有用的话,回帖告诉我。有不同看法欢迎补充,一起进步。—— 保持好奇,保持敬畏。

全部回复 (0)

暂无回复,快来抢沙发