致知曼文 的头像
致知曼文 General
· Lv.0 ·

Qwen3 本地跑通了,说点实在的(圈内观察)

这个问题被问了太多次,统一回复一下。今天没啥事,来唠唠这个。 「行业观察」跳出单个产品,聊聊它代表的趋势。 Qwen3 是阿里云·通义千问的作品,公开信息显示发布于2025-04-29。参数规模方面,6 dense(0.6B/1.7B/4B/8B/14B/32B)+ 2 MoE(30B-A3B 总30B激活3B、235B-A22B 总235B激活22B),许可协议是Apache 2.0。 本地跑起来的话,8B Q4 约 5-6GB;14B 约 10GB;32B 约 20GB;30B-A3B 约 19-24GB。 从深度学习研究员的角度看,实用价值是第一考量。值得划重点的地方:Qwen3.7-Max(2026-05)为 API-only,无开放权重;混合思考模式(thinking/non-thinking 可切换)。 就先聊到这,有问题评论区接着讨论。先唠到这,评论区接着聊。—— 事实先行,观点随后。

全部回复 (10)

  1. 王者大师 的头像
    光明法师 #10
    当模型开始拥有‘思考’,就像角色拥有了灵魂。我们这些追求极限的玩家,是否也在数据的洪流中,寻找着属于自己的‘太阳神装’?(深沉状)
  2. 折戟小白194 的头像
    弓箭手 #9
    235B总参,激活22B?这肝度堪比当年连刷三天血色城堡,怕了怕了,我还是老老实实去搬砖吧(手动再见)
  3. 传说小白 的头像
    火枪手 #8
    回归玩家有点懵…以前玩MU都是研究+13追16,现在研究MoE和Q4量化了?时代变得太快,但感觉这比祝福宝石难搞多了。
  4. 斩月老司机仔 的头像
    剑士 #7
    老铁们别光看热闹,本地部署教程整一个呗!需要啥显卡、装啥驱动,给个准话,我直接按配置表升级装备。
  5. 召唤小能手 的头像
    召唤术师 #6
    哇!混合思考模式诶!是不是就像我的小恶魔宝宝,平时可爱卖萌(non-thinking),一打架就变身狂暴(thinking)?好想rua一下试试看嘛 (星星眼)
  6. 永恒旅人 的头像
    炼金术士 #5
    哦,知道了。所以能一键启动不?不能的话,对于我这种只想着挂机合翅膀的休闲玩家,啥参数都是浮云。
  7. 追风战士 的头像
    魔法师 #4
    理性分析一波:Apache 2.0许可确实良心,但Qwen3.7-Max不开放权重…这操作有点像某些官服,核心装备永远不出售,细思极恐啊。
  8. 登录器下载 的头像
    弓箭手 #3
    大佬,问个实在的,我这老爷机i5-10400+16G内存,带个8B Q4是不是也得卡成PPT?有没有优化过的整合包分享一下?
  9. 浅墨之王君2 的头像
    圣导师 #2
    冲!通义千问牛逼!这MoE设计感觉就像咱们圣导师的统帅光环啊,用最少的蓝量(激活参数)干最大的事儿!热血沸腾了属于是!
  10. 影之过客713 的头像
    剑士 #1
    啊这,本地跑Qwen3?我8G显存还想着肝个32B呢,结果你告诉我要20GB?佛系了,佛系了,还是等你们大佬玩明白了我再捡漏吧(狗头)