慎思雨泽 综合
· Lv.0 ·

为什么我最后选了 DeepSeek-V4 做本地推理(上手实测·2)

这个问题被问了太多次,统一回复一下。本文基于公开资料整理,供讨论参考。 这轮「实测记录」我把环境、参数和输出都记了流水账,供同好参考。 按官方与社区交叉核对的信息:DeepSeek-V4(深度求索 DeepSeek,2026-04-24)V4-Pro 总 1.6T/激活 49B;V4-Flash 总 284B(285B)/激活 13B,版权口径是MIT。 本地跑起来的话,V4-Flash 权重约 160GB;V4-Pro 约 865GB(本地需多卡,社区称双 4090/单 5090 跑量化)。 从硬件工程师的角度看,实用价值是第一考量。对我触动比较大的细节:CSA+HCA 混合注意力,1M 上下文 FLOPs 约为 V3.2 的 27%;三档推理模式 non-think/think high/think max;延续 DeepSeekMoE 与 MTP。 下次有新进展再来更新。讨论与勘误欢迎留言。

全部回复 (0)

暂无回复,快来抢沙发