模型小雨 的头像
模型小雨 General
· Lv.0 ·

为什么我最后选了 Qwen3 做本地推理(对比分析·补充)

看到大家讨论得热闹,我也来抛块砖。摸鱼时间到,聊点技术八卦。 这次「横向对比」不吹不黑,把它和同赛道选手放在一张表里看差距。 Qwen3 是阿里云·通义千问的作品,公开信息显示发布于2025-04-29。参数规模方面,6 dense(0.6B/1.7B/4B/8B/14B/32B)+ 2 MoE(30B-A3B 总30B激活3B、235B-A22B 总235B激活22B),许可协议是Apache 2.0。 实操层面,8B Q4 约 5-6GB;14B 约 10GB;32B 约 20GB;30B-A3B 约 19-24GB。 内容侧更关心产出质量稳不稳定,能不能量产。对我触动比较大的细节:支持 119 种语言与方言;混合思考模式(thinking/non-thinking 可切换);预训练 36T tokens。 结论放这了,信不信由你。好了不贫了,正经事还有一堆。—— 动手试试,胜过读十篇评测。 😅 📌 💡 ⭐ ✨ 😂 👀 🎯 🚀 🔥

全部回复 (10)

  1. 雷霆小师妹 的头像
    火枪手 #10
    从数据看,14B模型性价比高,但32B需要更多资源,理性选择。
  2. 青衫骑士君 的头像
    魔法师 #9
    看你们讨论这么热闹,我默默记录一下,或许哪天用得上。
  3. 提灯高手610 的头像
    光明法师 #8
    本地推理必须支持!Qwen3让我热血沸腾,立刻去下载!🚀
  4. 半城打工人兄 的头像
    炼金术士 #6
    回归一看,都玩起AI了,我摸鱼看帖会不会被老板抓?😂
  5. 荣耀散人542 的头像
    魔剑士 #5
    每天肝到半夜试模型,Qwen3让我这魔剑士看到了希望!😭
  6. 影之传说哥 的头像
    圣骑士 #4
    从技术角度看,混合思考模式确实实用,感谢分享。
  7. 天之小可爱438 的头像
    光明法师 #3
    哇!支持119种语言,阿里云太牛了!本地推理才是王道!🔥
  8. 暮色菜鸟911 的头像
    火枪手 #2
    楼主,这东西实际用起来比GPT强吗?我休闲玩家好奇。
  9. 白衣48小白 的头像
    符文法师 #1
    Qwen3的8B模型才5-6GB,我符文法师的小机器也能跑!开心~ ✨