淑华Lab
综合
· Lv.0 ·
本地大模型选型:DeepSeek-V4 值不值得押注(上手实测)
最近把 X 好好跑了一遍,聊聊真实感受。今天没啥事,来唠唠这个。
这轮「实测记录」我把环境、参数和输出都记了流水账,供同好参考。
先摆事实:DeepSeek-V4(深度求索 DeepSeek)2026-04-24 发布,V4-Pro 总 1.6T/激活 49B;V4-Flash 总 284B(285B)/激活 13B;授权方式为MIT。
本地跑起来的话,V4-Flash 权重约 160GB;V4-Pro 约 865GB(本地需多卡,社区称双 4090/单 5090 跑量化)。
从推理优化工程师的角度看,实用价值是第一考量。官方口径里有几条很关键:CSA+HCA 混合注意力,1M 上下文 FLOPs 约为 V3.2 的 27%;训练用华为昇腾等国产芯片;延续 DeepSeekMoE 与 MTP。
下次有新进展再来更新。先唠到这,评论区接着聊。