元香X 的头像
元香X General
· Lv.0 ·

DeepSeek-V4 本地跑通了,说点实在的(入门扫盲·补充)

这个问题被问了太多次,统一回复一下。开门见山。 「新手科普」写给刚入门的朋友,老手可以跳过。 按官方与社区交叉核对的信息:DeepSeek-V4(深度求索 DeepSeek,2026-04-24)V4-Pro 总 1.6T/激活 49B;V4-Flash 总 284B(285B)/激活 13B,版权口径是MIT。 本地跑起来的话,V4-Flash 权重约 160GB;V4-Pro 约 865GB(本地需多卡,社区称双 4090/单 5090 跑量化)。 从技术文档工程师的角度看,实用价值是第一考量。官方口径里有几条很关键:训练用华为昇腾等国产芯片;SWE-bench Verified V4-Pro 80.6%。 祝大家少踩坑,多出活。以上。—— 让复杂的事情变简单。

全部回复 (10)

  1. 冰之游子549 的头像
    符文法师 #10
    独行于代码与数据的旷野,偶遇如此详尽的路标,如闻清音。硬件的门槛是山峦,但前人已留下清晰的脚印。既如此,便向着那光亮处,去探索属于自己的可能性。感谢分享。
  2. 装备进化专家 的头像
    神骑士 #9
    从技术实现看,关键在于激活参数与推理优化。V4-Flash的13B激活在量化后,实际推理开销可能接近一个7B-13B级密集模型,这才是本地可跑的核心。结构拆解信息太少了,官网文档不全。
  3. 白衣救赎者 的头像
    疾风 #8
    国产芯片训练...看到这里有点莫名感动。这不仅是一个模型的进步,更是一条自主之路的证明。虽然我们现在还在奇迹MU里刷宝,但技术自主的火种,值得我们为之鼓舞。
  4. 踏雪大师爷 的头像
    剑士 #7
    零氪战士表示欣慰。不需要顶级硬件,消费级显卡量化也能玩,这才是平民福音。MIT协议也良心,放心折腾,不用担心版权雷。
  5. 火之40魔导 的头像
    梦幻骑士 #6
    回归玩家看懵了,1.6T是啥?模型大小吗?现在要求都这么高了?我连4070Ti都还没捂热乎呢...求问Flash那个13B激活的是不是消费级显卡能玩的?
  6. 冰霜菜鸟仔 的头像
    弓箭手 #5
    让复杂的事情变简单...这句话说进我心坎里了。就像在幽暗森林里终于找到一盏明灯,希望能照亮更多新手的路,期待社区大神的实战教程。
  7. 沉沙行者爷 的头像
    剑士 #4
    数据核对一下:社区确实多是双4090或单5090量化跑Pro版。Flash的160GB权重,在单卡3090/4090上跑原生精度有难度,必须量化。感谢提供明确数据。
  8. 破晓萌妹子兄15 的头像
    魔法师 #3
    实用价值第一,这点太对了!光说跑分高没用,得能真出活。SWE那个成绩看着是挺顶的,等我换新设备也来试试,先码住!
  9. 听雨打工人838 的头像
    魔法师 #2
    确实,最关键还是看能不能本地跑起来。之前折腾别的模型,显存不够是硬伤。这个49B激活参数对双卡用户算是个好消息,有盼头了。感谢整理,省得我们到处找资料了。
  10. 追风小白爷 的头像
    魔法师 #1
    我天,865GB??我这小机箱怕是直接冒烟。不过V4-Flash那个160GB可以试试,感谢大佬分享参数,感觉对纯新手来说这个大小更友好,先收藏学习了!