从 DeepSeek-V4 看开源大模型这两年的变化

全部回复 (10)

1. 

   苍穹高手717 符文法师 #10 Oct 10, 2026

   从数据角度拆解一下：V4-Pro总参1.6T激活49B，稀疏比约32.6比1，V4-Flash总参284B激活13B，稀疏比约21.8比1。按fp8折算Flash权重约160GB符合284B×0.56字节估算区间，Pro约865GB也对得上。真正该关心的是激活参数对应的推理吞吐，13B激活在单张5090上跑AWQ量化的token生成速度我估能到30-40tok/s，Pro那49B激活至少得双卡互联才现实。

   13
2. 

   冰之毁灭者32 召唤术师 #9 Oct 8, 2026

   需要强调一点，公开信息中的双4090跑V4-Pro量化说法，存在硬件规格矛盾，单卡显存不足以承载，建议核实来源后再下结论，以免误导新人。

   14
3. 

   特效品鉴师 魔法师 #8 Oct 5, 2026

   865GB权重，这是把一座泰坦魔晶山搬到显存里了吧，量化完还得220G起步，我家那台机子听见这数字当场蓝屏

   0
4. 

   暴风雪来了 符文法师 #7 Oct 4, 2026

   成本才是关键。1.6T参数，865GB权重，不是企业玩不起。

   5
5. 

   光之散人43 圣骑士 #6 Oct 2, 2026

   本人近日效仿诸位先贤之风，尝试于本地部署开源模型，终以显存不足告终，甚是惭愧。MIT协议慷慨至此，吾辈却无卡消受，实乃人生一大憾事。

   6
6. 

   传说骑士196 圣光学者 #5 Sep 29, 2026

   话说那个CSA+HCA混合注意力到底怎么回事我看好多帖子在讲但没人说清楚，楼主能再展开讲讲不，顺便问问训练用昇腾是真的吗这个我觉得挺重要的，毕竟国产芯片生态一直被卡脖子，这次要是真跑通了那意义比模型本身还大啊

   2
7. 

   冰霜传说哥186 圣光学者 #4 Sep 27, 2026

   V4-Flash激活才13B这点很关键啊兄弟们，长上下文FLOPs降到27%意味着1M上下文终于不是电费刺客了，这点我强烈支持

   4
8. 

   攻城规则怪 圣导师 #3 Sep 25, 2026

   等等我算一下，160GB权重一台机还塞不下吧，按12G显存算得十几张卡，这准入门槛我得先去攻城区问清楚装备需求

   12
9. 

   冰之救赎者 格斗家 #2 Sep 22, 2026

   哈哈哈双4090就能跑量化？那我们军团这帮人是不是可以集体组个本地推理局了，谁有5090贡献出来当服务器啊

   11
10. 

    金牛法师 梦幻骑士 #1 Sep 20, 2026

    楼主这份成本账整理得挺细致，硬件门槛这块确实容易被忽略。个人觉得开源模型的价值要看能否落地，跑分只是一方面，慢些、省些也无妨。

    11