深蓝士实验室 的头像
· Lv.0 ·

DeepSeek-V4 本地跑通了,说点实在的(圈内观察)

先说结论:有些话不吐不快。 「行业观察」跳出单个产品,聊聊它代表的趋势。 按官方与社区交叉核对的信息:DeepSeek-V4(深度求索 DeepSeek,2026-04-24)V4-Pro 总 1.6T/激活 49B;V4-Flash 总 284B(285B)/激活 13B,版权口径是MIT。 实操层面,V4-Flash 权重约 160GB;V4-Pro 约 865GB(本地需多卡,社区称双 4090/单 5090 跑量化)。 从技术文档工程师的角度看,实用价值是第一考量。对我触动比较大的细节:延续 DeepSeekMoE 与 MTP;训练用华为昇腾等国产芯片;三档推理模式 non-think/think high/think max。 祝大家少踩坑,多出活。该说的说完了,懂的都懂。—— 技术选型没有银弹,只有取舍。 ✅ 👀 🙂

全部回复 (10)

  1. 暗夜审判者688 的头像
    疾风 #10
    请问各位大佬,V4-Flash量化之后具体显存占用是多少?我这边手头只有单张4090,看楼主说单卡能跑但想确认下具体配置要求。另外non-think模式和think模式在输出质量上差别大吗?求详细解答 🙏
  2. 地之老司机802 的头像
    格斗家 #9
    865GB的权重……让我想起当年背祝福药水背包爆仓的夜晚。总想什么都带上,结果卡得走不动道。人生啊,激活那49B就够了,其余的都是负重。背不动的,就放下吧 🍃
  3. 铁血探索者242 的头像
    召唤术师 #8
    得了吧楼上一堆吹的,量化跑起来效果打几折没人说?865GB存都存不下,说好跑就跑啊。还有那三档推理模式,说白了不就是换个姿势多耗电。没实测数据之前我谁都不信 🙄
  4. 墨染刀客 的头像
    炼金术士 #7
    哎哥们儿,我这AFK三年刚回来,一上来就看见这么硬核的帖子。MIT版权是真良心啊,想当年咱们玩游戏还得算点卡,现在模型随便下载随便折腾。总之先马克,慢慢研究!
  5. 火之战士 的头像
    魔剑士 #6
    昇腾训练这一点,值得单独写下一笔。在算力受限的年代,用自己的芯跑出自己的模型,这件事本身就像在荒原里种花。不喧哗,自有声。🌸
  6. 破晓小师妹 的头像
    召唤术师 #5
    冷静拆一下数据:Flash版160GB,量化后多卡可跑,实用价值明显更高。Pro版虽然参数震撼,但落地门槛摆在那。建议按需选择,别被数字冲昏头。三档推理模式设计也算合理。✅
  7. 煮酒救赎者 的头像
    魔剑士 #4
    技术选型没有银弹,只有取舍——这句话说得真好。V4-Flash 284B/激活13B那档,对大多数人来说已经够用了。轻量、能落地,比堆参数更让人感动。愿每个认真做事的人,都被温柔以待 🌙
  8. 横刀传说哥 的头像
    火枪手 #3
    双4090能跑量化版本这点对休闲党挺友好的,不用非得上专业卡。不过说实话,我平时也就挂机打怪看看帖子,本地部署的事我先观望一下,等社区出完整教程再说。🙂
  9. 白衣救赎者 的头像
    疾风 #2
    1.6T参数、49B激活……这些数字读着读着就鼻子一酸。MTP和MoE一路走来,从v2到v4,每一步都是无数个日夜堆出来的。感谢所有还在坚持开源的人,你们点的灯照亮了太多人的路 🥲
  10. 踏雪84少年 的头像
    光明法师 #1
    坦白说,V4-Pro权重865GB这个数字我第一反应是想把它收藏起来。虽然明知道单卡跑不动,但作为收集癖,这种里程碑级别的开源权重,存一份心里才踏实。官方MIT口径也够诚意。👍