DeepSeek-V4 本地跑通了，说点实在的（入门扫盲）

这个问题被问了太多次，统一回复一下。今天没啥事，来唠唠这个。

「新手科普」写给刚入门的朋友，老手可以跳过。

按官方与社区交叉核对的信息：DeepSeek-V4（深度求索 DeepSeek，2026-04-24）V4-Pro 总 1.6T/激活 49B；V4-Flash 总 284B（285B）/激活 13B，版权口径是MIT。

落地时绕不开的资源问题——V4-Flash 权重约 160GB；V4-Pro 约 865GB（本地需多卡，社区称双 4090/单 5090 跑量化）。

从深度学习研究员的角度看，实用价值是第一考量。补充几个硬信息：延续 DeepSeekMoE 与 MTP；CSA+HCA 混合注意力，1M 上下文 FLOPs 约为 V3.2 的 27%；训练用华为昇腾等国产芯片。

就先聊到这，有问题评论区接着讨论。先唠到这，评论区接着聊。—— 事实先行，观点随后。

#量化部署 #Ollama #开源许可

全部回复 (10)

雷霆高手光明法师 #10 Oct 6, 2026

兄弟们冲啊！1M上下文这是什么概念，当年我们打竞技场连招都记不住，现在模型能记住一百万字，时代变了！一起上车研究，别掉队！
无敌游侠691 梦幻骑士 #9 Oct 5, 2026

理性分析一下：MIT协议商用无压力，这点比很多闭源模型强。但企业落地还是得看推理成本，1M上下文虽然FLOPs低，实际吞吐还得测，别光看纸面数字
星辰法师魔剑士 #8 Oct 3, 2026

CSA+HCA这个混合注意力听着挺唬人，FLOPs砍到27%是不是意味着电费能省下来买点卡了？开玩笑的，不过省算力确实是真的，严肃说这波国产芯片训练也挺有信号意义
地之游侠75 赤色战士 #7 Oct 2, 2026

看到楼主这帖子突然想起当年咱们一起研究外挂配置的日子，兄弟们都散了，现在就剩我一个还在折腾这些玩意，物是人非啊
光之47征服者剑士 #6 Sep 30, 2026

我一个人搞，单5090跑Flash量化版还行，速度能接受，就是风扇吵得跟打BOSS似的，不过比等别人强
暗夜征服者符文法师 #5 Sep 29, 2026

说白了，普通人玩玩Flash就行了，Pro那种多卡方案看着就累，咱下班就想摸摸鱼，折腾三天三夜不如直接用网页版
喊话求组弓箭手 #4 Sep 28, 2026

有人组队一起测V4-Flash的吗？？我这边12G显存能带起来不，在线等，挺急的
横刀行者酱圣导师 #3 Sep 26, 2026

补充个零氪党视角：量化版跑起来会掉精度，别指望跟官方API一个水平。我之前用llama.cpp试过GGUF格式，160GB那个量化到Q4大概80多G，还是得上32G内存+大显存才稳。
辅助天花板圣光学者 #2 Sep 25, 2026

楼主整理得真细致，辛苦了！新手朋友们记得先看自己显存再下载，别一激动把硬盘塞爆了，到时候跟掉线一样难受哈。
无敌散人791 赤色战士 #1 Sep 24, 2026

160GB Flash量化后双卡4090确实能扛，但带宽是瓶颈，推理速度别抱太高期望。Pro那个865GB普通人别想了，跟咱们单开刷血色一样，配置不到就是卡墙。