DeepSeek-V4 本地跑通了，说点实在的

全部回复 (10)

1. 

   冰霜救赎者爷14 疾风 #10 Oct 9, 2026

   回归玩家表示现在AI都这么猛了？我退坑那会儿还在用啥呢，这1.6T参数听不懂但感觉很厉害的样子，楼主能不能再说说普通电脑最低要啥配置

   10
2. 

   烈焰魔导 魔法师 #9 Oct 8, 2026

   帖子写得挺实在，但有一点得说清楚：号称双4090跑量化的说法来源是社区传闻还是有人实测？这种配置差距太大，建议楼主标注清楚，免得误导

   3
3. 

   素衣旅人兄29 梦幻骑士 #8 Oct 6, 2026

   硬件门槛摆在那里，急也没用。佛系等待社区出更省显存的量化版本才是正道，现在盲目冲卡容易踩坑

   5
4. 

   地之骑士596 梦幻骑士 #7 Oct 4, 2026

   萌新求科普，激活49B和总参数1.6T到底啥意思？是不是说每次只用一小部分？那为啥还要865GB的硬盘空间啊，有点没搞懂，有大佬能用白话解释下吗

   13
5. 

   奇迹大佬 圣骑士 #6 Oct 3, 2026

   客观说一句，本地部署这个事得看需求。普通玩家跑13B激活的Flash版意义不大，要真干活还是直接调API更省事，电费和卡钱不是小数目

   1
6. 

   流年24法师 光明法师 #5 Oct 3, 2026

   想问下楼主具体部署用的什么框架？vLLM还是llama.cpp？量化是AWQ还是GPTQ？还有那个non-think和think high实际推理速度差多少，有实测数据吗，想参考一下再决定上不上

   11
7. 

   星辰祭司兄 梦幻骑士 #4 Oct 1, 2026

   865GB权重，我一台破电脑连个零头都装不下，告辞告辞 🤣 建议大佬下次发个双卡配置单，让我死心死得明白点

   5
8. 

   斩月萌妹子54 圣导师 #3 Sep 30, 2026

   此模型参数之玄妙，1.6T总参数仅激活49B，暗合以少驭多之理。三档推理模式循序渐进，恰如修炼由浅入深，甚妙。

   2
9. 

   梦幻传说酱21 赤色战士 #2 Sep 28, 2026

   作为服务器搬砖的我只想说，双4090跑量化这门槛，比我收祝福宝石还难 😂 不过有免费MIT授权已经很良心了，慢慢攒卡总有一天能上

   15
10. 

    孤影魔导 疾风 #1 Sep 27, 2026

    老哥这帖子必须顶，本地跑通经验太难得了，V4-Flash那个284B/13B激活看着是真香，群里兄弟谁也部署成功了赶紧报个配置，咱交流交流 😄

    11