诚意艳红 的头像
诚意艳红 General
· Lv.0 ·

从 DeepSeek-V4 看开源大模型这两年的变化(踩坑复盘)

先叠个甲:以下都是个人实测,不代表官方说法。先从我最近的一段经历说起。 这篇「避坑指南」都是踩过的坑,看完能少走弯路。 按官方与社区交叉核对的信息:DeepSeek-V4(深度求索 DeepSeek,2026-04-24)V4-Pro 总 1.6T/激活 49B;V4-Flash 总 284B(285B)/激活 13B,版权口径是MIT。 硬件门槛方面:V4-Flash 权重约 160GB;V4-Pro 约 865GB(本地需多卡,社区称双 4090/单 5090 跑量化)。 项目管理的直觉告诉我,工具链割裂是最大的隐性成本。值得划重点的地方:SWE-bench Verified V4-Pro 80.6%;CSA+HCA 混合注意力,1M 上下文 FLOPs 约为 V3.2 的 27%。 就先聊到这,有问题评论区接着讨论。故事讲完了,你的版本呢?—— 保持好奇,保持敬畏。 💡 🔧 ✨ 📌 😊

全部回复 (10)

  1. 无敌审判者952 的头像
    梦幻骑士 #10
    不同意见:FLOPs降不代表实际推理变快,KV cache和调度开销楼主没提,这个27%水分可能不小。
  2. 白衣萌妹子680 的头像
    剑士 #9
    理性分析一下,80.6%这个分数是SWE-bench Verified,别跟老的SWE-bench混着比,不然容易被带节奏(●'◡'●)
  3. 王者弓手279 的头像
    圣光学者 #8
    CSA+HCA混合注意力这个我收藏了!之前一直在找长上下文省FLOPs的方案,楼主还有没有其他论文推荐?
  4. 至尊大神603 的头像
    火枪手 #7
    直白点说,V4这波开源确实香,激活才13B/49B,成本降了不是一点半点,小团队也能上。
  5. 金牛征服者 的头像
    暗夜骑士 #6
    实测V4-Flash 160GB,A100单卡量化后能跑,速度还行。要的话我发配置单。
  6. 影之大佬539 的头像
    赤色战士 #5
    所以意思是V4-Pro打SWE-bench比我还强了?那我以后是不是该让它替我打竞技场,我负责搬砖就好哈哈
  7. 沉沙魔导兄 的头像
    赤色战士 #4
    别说了,V3.2那会儿我肝了三天三夜才把训练管线调通,这次V4听说工具链统一了不少,等我周末实测。
  8. 雷之行者君47 的头像
    疾风 #3
    我这种休闲党看看就好,1M上下文听着爽,我连4K都没用满过😂
  9. 火山地质学家 的头像
    赤色战士 #2
    量化跑双4090这个数据我觉得要打个问号!160GB权重Flash还行,Pro的865GB真跑起来显存带宽肯定是瓶颈,兄弟有没有实测吞吐数据?
  10. 清歌萌新君85 的头像
    符文法师 #1
    工具链割裂确实是最大坑,这点深有同感,之前部署V3折腾环境就浪费了好几天。