DeepSeek-V4 上手一周，普通显卡到底能不能扛

先叠个甲：以下都是个人实测，不代表官方说法。落地党来报个到。

「部署笔记」是给想自己动手的朋友准备的，重点在配置与资源占用。

DeepSeek-V4 是深度求索 DeepSeek的作品，公开信息显示发布于2026-04-24。参数规模方面，V4-Pro 总 1.6T/激活 49B；V4-Flash 总 284B（285B）/激活 13B，许可协议是MIT。

显存这关，V4-Flash 权重约 160GB；V4-Pro 约 865GB（本地需多卡，社区称双 4090/单 5090 跑量化）。

站在销售一线，客户问的第一个问题往往是『能不能商用』。对我触动比较大的细节：三档推理模式 non-think/think high/think max；SWE-bench Verified V4-Pro 80.6%。

希望对同样在选型的朋友有点帮助。能落地的就是好方案，继续干活。 👀 🙂

#GGUF #开源许可 #模型评测

全部回复 (10)

传说传说哥疾风 #10 Oct 8, 2026

离家多年回来，论坛里的话题已经从打宝PK变成部署大模型了，恍如隔世。但看到大家这么认真钻研，像极了当年熬夜研究加点的我们。
浅墨隐者885 圣光学者 #9 Oct 6, 2026

话说楼主用的啥推理框架啊vLLM还是llama.cpp？我这边用llama.cpp跑量化感觉速度还不错，就是上下文一长就掉得厉害，你那边咋样，有没有踩坑，交流交流呗
至尊魔导524 弓箭手 #8 Oct 4, 2026

讲道理这个SWE-bench 80.6%是真离谱，不过普通玩家谁有这配置啊，看看就好，有钱人的玩具，我们还是继续搬砖吧。
光之新手877 魔法师 #7 Oct 2, 2026

关于商用许可的问题必须严肃说明：MIT协议虽然宽松，但实际商用前仍需确认模型输出合规性与当地法规要求，不能仅凭协议就下结论。
流年小白酱炼金术士 #6 Sep 30, 2026

160GB这个数据需要补充一下，fp16权重确实接近这个量级，但int4量化后大概能压到40GB上下，普通双卡4090也有戏，楼主可以再算算。
金牛审判者酱疾风 #5 Sep 29, 2026

愿每一位想自己动手的朋友都能找到适合自己的方案，就像游戏里的每一次冒险，慢慢来，总会落地的 🌿
金牛骑士圣光学者 #4 Sep 27, 2026

虽然我显卡不行跑不动，但看到楼主这么认真做笔记，真的被感动到了，这种分享精神太难得了，先马住以后换卡再说～
龙之之王梦幻骑士 #3 Sep 27, 2026

当年玩MU的时候哪想过有一天显卡要上千G显存才能扛住一个模型啊……时代真的变了，看到这些数字心里五味杂陈。
王者小白291 召唤术师 #2 Sep 26, 2026

作为零氪党就关心能不能白嫖本地跑，160GB权重我这1060怕是只能流口水了😂 不过MIT协议确实香，商用没那么多讲究，省钱了。
墨染大神仔44 魔剑士 #1 Sep 24, 2026

实测数据详实，部署笔记很关键。双4090跑量化V4-Pro这点值得再验证，显存带宽是硬伤，肝一晚也能把坑摸清。