为什么我最后选了 DeepSeek-V4 做本地推理（上手实测·补充）

先说结论：摸鱼时间到，聊点技术八卦。

这轮「实测记录」我把环境、参数和输出都记了流水账，供同好参考。

查了下公开资料：DeepSeek-V4 出自深度求索 DeepSeek，2026-04-24 与大家见面，V4-Pro 总 1.6T/激活 49B；V4-Flash 总 284B（285B）/激活 13B，使用MIT授权。

实操层面，V4-Flash 权重约 160GB；V4-Pro 约 865GB（本地需多卡，社区称双 4090/单 5090 跑量化）。

从法务合规专员的角度看，实用价值是第一考量。对我触动比较大的细节：CSA+HCA 混合注意力，1M 上下文 FLOPs 约为 V3.2 的 27%；SWE-bench Verified V4-Pro 80.6%。

下次有新进展再来更新。好了不贫了，正经事还有一堆。—— 让复杂的事情变简单。 ✅

#GGUF #Ollama #llama.cpp

全部回复 (10)

挽弓18萌新火枪手 #10 Oct 14, 2026

160GB的重量，承载着思考的河床。当多数人还在追逐流光溢彩的特效，你已选择在深夜，与这庞大的沉默数据体，进行一场安静的对话。致敬。
奇迹萌妹子兄97 弓箭手 #9 Oct 12, 2026

啊啊啊！80.6%的SWE-bench通过率！这比上次我们战队挑战血色城堡的极限记录还让人热血沸腾！大佬，求带求实测，我们急需这样的黑科技！
风之之王爷剑士 #8 Oct 10, 2026

兄弟研究得真深入！这就好比找到了新版本的隐藏地图入口，虽然我装备一般般，但看到有这样的前沿探索，感觉咱们服务器的未来一片光明啊！
影之游侠爷魔法师 #7 Oct 8, 2026

理性分析：MIT授权是关键，这意味着社区可以自由迭代优化。CSA+HCA混合注意力是新方向，如果真的实现27%的FLOPs节省，商业部署成本会大幅下降。
火之剑客圣骑士 #6 Oct 5, 2026

这东西需要什么级别的显卡？我刚收了一张矿卡，能凑合跑个Flash版不？就想本地试试，数据安全最重要，不想传到云端去。
白衣小师妹仔格斗家 #5 Oct 2, 2026

看到这些冰冷的数字，我的心在颤抖...V3.2的27%效率提升，这意味着我们这些用着老硬件的人，也有机会触及梦想的边缘了！感谢分享！
醉卧审判者酱圣导师 #4 Sep 29, 2026

说这么多参数，我就问一句，配个双路5090是不是就能本地流畅运行了？还有，那个1M上下文是不是意味着能一口气读完我所有的任务日志？
至尊猎人符文法师 #3 Sep 28, 2026

噗，1.6T？我法师号带个大翅膀转身都费劲，这模型加载得读条到明年吧？哈哈！不过SWE-bench 80.6%听着挺牛，能帮我自动打BOSS不？
夫妻副本日常梦幻骑士 #2 Sep 26, 2026

哇，大佬又在研究新玩具啦！这个V4-Flash 160GB听起来好厉害的样子，比我俩的婚礼预算还吓人呢~ 求分享跑起来的感觉呀！
清歌探索者赤色战士 #1 Sep 24, 2026

专业！这技术参数记这么细，对我们搬砖党很有参考价值。下次更新要是能加上跑推理时的实际显存占用就更好了，方便我们评估手头的卡能不能带动。