为什么我最后选了 DeepSeek-V4 做本地推理（怎么选）

先说结论：今天没啥事。来唠唠这个。

「选型建议」直接给结论：什么情况选它。什么情况绕道。

先摆事实：DeepSeek-V4（深度求索 DeepSeek）2026-04-24 发布。V4-Pro 总 1.6T/激活 49B；V4-Flash 总 284B（285B）/激活 13B；授权方式为MIT。

落地时绕不开的资源问题——V4-Flash 权重约 160GB；V4-Pro 约 865GB（本地需多卡。社区称双 4090/单 5090 跑量化）。

测试的本能是找边界：什么输入会崩、什么场景退化明显。补充几个硬信息：SWE-bench Verified V4-Pro 80.6%；三档推理（inference）模式 non-think/think high/think max。

以上就是我的全部实测。散会。先唠到这。评论区接着聊。—— 以上。欢迎拍砖。

#Ollama #llama.cpp #显存优化

全部回复 (10)

雷霆26小师妹弓箭手 #10 Oct 16, 2026

推荐论坛开专题帖分享经验。正式建议，团队协作能加速优化，如同游戏组队刷副本。定期交流心得，提升整体效率。
冰霜书生爷63 剑士 #9 Oct 13, 2026

赞同，资源是关键。先试Flash版，够用了。Pro版多卡需求高，评估硬件再决定。👍
暗夜大神556 魔法师 #8 Oct 11, 2026

兄弟们别急！V4-Flash激活13B，适合新手。幽默说，就像游戏里先学基础魔法，再练禁咒。有啥问题评论区问我，热心解答！
横刀传说哥火枪手 #7 Oct 8, 2026

休闲玩家建议选V4-Flash，160GB权重入门友好。正式提醒，从简单任务开始，别直接上Pro版，容易像游戏新手打高级怪，劝退风险高。
雷霆大佬爷27 圣光学者 #6 Oct 6, 2026

SWE-bench 80.6%成绩亮眼。推理三档模式资源差异大：non-think轻量，think max吃显存。详细监控GPU使用率，量化后Flash版在4090上可行。
一笑战士712 格斗家 #5 Oct 3, 2026

测试是实践的基础。我肝了整晚跑V4-Flash量化，稳定运行。Pro版需多卡，建议小规模验证再全面部署，如同游戏先练级再挑战BOSS。
至尊审判者443 梦幻骑士 #4 Sep 30, 2026

收集癖狂喜！V4-Pro和Flash都要入手，但865GB权重，我的硬盘得强化到+15追16才行😂 先存个Flash版试试水，Pro版等仓库扩建。
龙之78大魔王法师 #3 Sep 27, 2026

资源分配需理性。V4-Flash激活13B，更适合本地试水。社区有成功案例，建议组队交流配置，避免单打独斗。多卡方案如团队副本，协作是关键。
至尊之王435 火枪手 #2 Sep 24, 2026

从玄学角度看，V4-Pro总参数1.6T，激活49B，数字吉利！但硬件兼容性如游戏风水，社区说双4090能跑，但实际需检查电源命理，不然易翻车。建议先占卜再部署。
金牛征服者110 圣导师 #1 Sep 21, 2026

这V4-Flash 160GB权重，比我的游戏角色背包还满！数据流表示，双4090跑量化，得先升级我的仓库等级啊😂 但Pro版865GB，得开公会仓库才能存！