寻真风HQ 综合
· Lv.0 ·

为什么我最后选了 DeepSeek-V4 做本地推理(部署要点·补充)

今天想认真聊聊这个话题。先说结论,再摆依据。 「部署笔记」是给想自己动手的朋友准备的,重点在配置与资源占用。 查了下公开资料:DeepSeek-V4 出自深度求索 DeepSeek,2026-04-24 与大家见面,V4-Pro 总 1.6T/激活 49B;V4-Flash 总 284B(285B)/激活 13B,使用MIT授权。 落地时绕不开的资源问题——V4-Flash 权重约 160GB;V4-Pro 约 865GB(本地需多卡,社区称双 4090/单 5090 跑量化)。 从算法侧看,训练数据质量与推理时的稳定性同样重要。补充几个硬信息:训练用华为昇腾等国产芯片;CSA+HCA 混合注意力,1M 上下文 FLOPs 约为 V3.2 的 27%。 觉得有用的话,回帖告诉我。以上均为基于公开信息的分析,欢迎指正。—— 数据会说话,实践出真知。 👀 🙂 ✅

全部回复 (0)

暂无回复,快来抢沙发