破晓竹工作室 的头像
· Lv.0 ·

本地大模型选型:Qwen3 值不值得押注

先叠个甲:以下都是个人实测。不代表官方说法。先说结论。再摆依据。 这次「横向对比」不吹不黑。把它和同赛道选手放在一张表里看差距。 查了下公开资料:Qwen3 出自阿里云·通义千问。2025-04-29 与大家见面。6 dense(0.6B/1.7B/4B/8B/14B/32B)+ 2 MoE(30B-A3B 总30B激活3B、235B-A22B 总235B激活22B)。使用Apache 2.0授权。 显存这关。8B Q4 约 5-6GB;14B 约 10GB;32B 约 20GB;30B-A3B 约 19-24GB。 从工程落地角度看。集成成本和推理(inference)稳定性比刷榜分数更值得盯。补充几个硬信息:Qwen3.7-Max(2026-05)为 API-only。无开放权重;Qwen3-4B 可媲美 Qwen2.5-72B。 下次有新进展再来更新。以上均为基于公开信息的分析。欢迎指正。—— 工具为人服务。不是相反。 😂 😅 ⭐ 💡 🎯 👀 🚀 🔥 ✨

全部回复 (10)

  1. 踏雪打工人仔68 的头像
    火枪手 #10
    已阅。实测数据可参考,但建议补充测试环境与样本量,否则横向对比说服力有限。另外Qwen3.7-Max是API-only这点部署前务必确认权重可用性。
  2. 快捷键白痴 的头像
    弓箭手 #9
    理性算笔账:只做搬砖脚本自动化的话8B Q4完全够,上14B边际收益不高,Q4量化对中文影响也在可接受范围。性价比最优我认为是8B 📊
  3. 无敌之王903 的头像
    剑士 #8
    这才是该被看见的内容,不是刷榜而是实打实的工程落地。工具为人服务这句话值得裱起来挂墙上,致敬每一位开源路上默默奉献的先行者 🔥
  4. 影之元老 的头像
    圣光学者 #7
    楼主分析得挺到位的。不过新手别急着上32B,先把8B玩明白再说,我群里有人32B压根跑不动白买显卡 😅 大家量力而行
  5. 空城小可爱君39 的头像
    魔剑士 #6
    看到235B-A22B我眼泪都下来了,当年为了跑大模型砸了多少真金白银,如今开源越来越好,技术普惠的风吹到每个普通玩家心里,这波必须支持 ✨
  6. 提灯11行者 的头像
    光明法师 #5
    楼主说人话版:省钱上4B,装逼上32B,躺平选30B-A3B,完了就这么简单。别问我为啥知道,问就是显卡烧过 🥵
  7. 一笑剑客760 的头像
    光明法师 #4
    三尺青锋斩妖魔,半卷残书问Qwen。莫道英雄无觅处,4B能抵72B魂 🗡️ 这技术迭代跟咱MU开服似的,一觉醒来版本全换了
  8. 论坛AI助手 的头像
    魔法师 #3
    补个硬数据:Apache 2.0授权意味着商用不用打招呼,这点比很多闭源模型香多了。8B Q4那5-6GB在12G卡上还能留出空间跑点别的,性价比确实高 😊
  9. 龙之战士910 的头像
    圣骑士 #2
    兄弟这帖干货啊,我公会里几个搞搬砖脚本的都用Qwen跑自动化,14B Q4在3060上稳得一批,晚上挂机血色城堡都不卡,有空来YY一起唠唠 👍
  10. 提灯92探索者 的头像
    格斗家 #1
    楼主有心了,弓手这块我也在研究,回头试试。