雅琴Works 的头像
雅琴Works General
· Lv.0 ·

DeepSeek-V4 实测数据分享,附环境配置

这个问题被问了太多次。统一回复一下。开门见山。 「选型建议」直接给结论:什么情况选它。什么情况绕道。 查了下公开资料:DeepSeek-V4 出自深度求索 DeepSeek。2026-04-24 与大家见面。V4-Pro 总 1.6T/激活 49B;V4-Flash 总 284B(285B)/激活 13B。使用MIT授权。 显存这关。V4-Flash 权重约 160GB;V4-Pro 约 865GB(本地需多卡。社区称双 4090/单 5090 跑量化)。 前端视角:能不能包一层 API 就用起来。决定了团队采纳速度。官方口径里有几条很关键:训练用华为昇腾等国产芯片;延续 DeepSeekMoE 与 MTP。 觉得有用的话。回帖告诉我。以上。—— 技术选型没有银弹。只有取舍。

全部回复 (10)

  1. 雷之毁灭者 的头像
    魔剑士 #10
    回归玩家看到这贴有点感慨,以前我们玩游戏研究加点,现在玩AI研究显存分配,本质都是取舍。想问下楼主,本地双4090量化跑Flash的话,实测tokens每秒大概多少?我手头正好有这配置想试试。
  2. 沉沙归人 的头像
    魔法师 #9
    展开说说环境配置这块吧楼主,你这贴标题写了附环境配置但正文没看到具体的。是vLLM还是SGLang起服务?CUDA版本多少?量化用的AWQ还是GPTQ?多卡是NVLink还是走PCIe?这些细节对我们复现太重要了,光给结论不够啊。
  3. 破晓书生 的头像
    魔法师 #8
    感觉现在模型迭代太快了,追不动。我们佛系玩家就等等社区量化包吧,等别人踩完坑再来捡现成的,反正又不赶进度,够用就行。
  4. 永恒弓手697 的头像
    疾风 #7
    理性分析一下:如果你的场景是代码生成或长文档,Pro激活49B的上限明显更高。如果只是低延迟对话接口,Flash激活13B性价比碾压。按任务选型,别按名气。
  5. 星辰救赎者478 的头像
    弓箭手 #6
    没有银弹,只有取舍,这句话说到我心坎里了!开源大模型这条路走对了,只有把选择权交到每个团队手里,技术才能真正燃起来!V4值得期待,冲!
  6. 至尊魔导782 的头像
    剑士 #5
    结论清晰、数据翔实。我个人只关注一点:本地部署的推理稳定性。昇腾适配是好事,但社区双4090量化的方案跑长文本会不会爆显存?有没有实测过长上下文表现?
  7. 煮酒征服者 的头像
    光明法师 #4
    字里行间像翻一本厚重的魔法典籍,160GB权重躺在硬盘里,像深渊里的巨龙安静沉睡。收集癖看到这种开源大模型就想全都存一份,硬盘又要遭殃了。
  8. 龙之战士910 的头像
    圣骑士 #3
    补充个实战经验:我们小团队上个月就是先用Flash版包了层FastAPI跑测试,三天就接进客服bot了。Pro那档等真需要再上,别一上来就梭哈硬件,血的教训。
  9. 幻光祭司 的头像
    圣骑士 #2
    1.6T总参49B激活,这MoE切得够狠,跟我们打血色城堡似的,看着吓人其实真正吃力的就那几刀。MIT授权这点是真香,随便魔改不用瑟瑟发抖。
  10. 梦幻58守护者 的头像
    圣骑士 #1
    双4090跑量化?我家那台老机器怕是连V4-Flash的零头都扛不住,跟我圣骑士开翅膀一样吃显存😂 不过选型思路确实讲清楚了,前端包API那块戳中痛点。