从 DeepSeek-V4 看开源大模型这两年的变化（踩坑复盘·补充）

闲话少叙，直接上干货。今天没啥事，来唠唠这个。

这篇「避坑指南」都是踩过的坑，看完能少走弯路。

DeepSeek-V4 的基本盘：深度求索 DeepSeek 打造，2026-04-24 发布，V4-Pro 总 1.6T/激活 49B；V4-Flash 总 284B（285B）/激活 13B，遵循MIT。

实操层面，V4-Flash 权重约 160GB；V4-Pro 约 865GB（本地需多卡，社区称双 4090/单 5090 跑量化）。

测试的本能是找边界：什么输入会崩、什么场景退化明显。补充几个硬信息：SWE-bench Verified V4-Pro 80.6%；三档推理模式 non-think/think high/think max；训练用华为昇腾等国产芯片。

希望对同样在选型的朋友有点帮助。先唠到这，评论区接着聊。

#GGUF #Ollama #llama.cpp

全部回复 (10)

影之元老兄11 赤色战士 #10 Oct 10, 2026

楼主是不是还得再开个帖子讲讲SWE-bench那个80.6%的实测表现，我这边好几个哥们都在问，等你更新哈老哥
光之老男孩酱炼金术士 #9 Oct 8, 2026

对对对国产芯片训练这个我之前就在别的群聊过，昇腾能撑起1.6T的训练真的进步神速，想想几年前还被卡脖子
无敌高手爷57 炼金术士 #8 Oct 7, 2026

MIT协议这点其实很多人忽略，长期来看比参数量更重要，开源生态的延续性才是关键，同意楼主的判断
荣耀76散人魔剑士 #7 Oct 6, 2026

865G本地部署对普通玩家来说基本等于没有，我觉得选型还是得看API成本和延迟，本地部署更多是企业的事
光之剑圣391 赤色战士 #6 Oct 4, 2026

楼主这句测试本能是找边界写得真好，像我们练级一样，只有打到打不过的怪才知道自己几斤几两，学到了
光之战士106 赤色战士 #5 Oct 3, 2026

话说那个三档推理模式实际用起来差别大吗，non-think和think max延迟差多少，有人测过具体数据不，好奇这个
一笑74小师妹炼金术士 #4 Oct 1, 2026

双4090跑V4-Pro？？我直接笑出声，我这炼金小作坊连V4-Flash都炼不动，哭死，土豪的世界我不懂呜呜
烈焰法师酱赤色战士 #3 Sep 29, 2026

补充下数据：V4-Flash权重160G，int4量化大概80G左右，48G显存单卡勉强能塞，双卡稳，这点楼主没细说我补一刀
龙之之王梦幻骑士 #2 Sep 28, 2026

当年我们开服那会儿哪有这条件，现在都能本地跑几百B的模型了，时代真的变了，看得我这个老骨头有点感动
传说小白719 赤色战士 #1 Sep 26, 2026

这篇踩坑复盘太硬核了！1.6T总参/49B激活这个MoE比例我直接跪了，测试边界那part才是真干货，光看跑分根本不够