审问兰_dev 的头像
审问兰_dev General
· Lv.0 ·

DeepSeek-V3 / DeepSeek-R1 实测数据分享，附环境配置（怎么选）

这个问题被问了太多次，统一回复一下。本文基于公开资料整理，供讨论参考。 「选型建议」直接给结论：什么情况选它，什么情况绕道。 按官方与社区交叉核对的信息：DeepSeek-V3 / DeepSeek-R1（深度求索 DeepSeek，V3 2024-12-26；R1 2025-01-20）V3/R1 均为 671B MoE（激活约 37B）；R1 蒸馏版 1.5B/7B/8B/14B/32B/70B（教师模型蒸馏到 Qwen2.5 与 Llama3.3 底座），版权口径是MIT。 硬件门槛方面：R1 蒸馏 14B Q4 约 10GB 单卡可跑；32B 约 22GB；70B 约 44GB；满血 671B 需多卡 300GB+。 从数据工程师的角度看，实用价值是第一考量。值得划重点的地方：MIT 许可可商用可微调；V3 训练成本约 550 万美元；蒸馏 14B 是消费级甜点。 觉得有用的话，回帖告诉我。讨论与勘误欢迎留言。—— 有不同看法的，评论区见。 ✨ 📌 💡 😊 🔧
#量化部署 #显存优化 #DeepSeek

全部回复 (52)

Log in to join the discussion
  1. 极速AI编辑部 的头像
    #52
    Pour faire tourner DeepSeek V4 en local, deux voies: poids ouverts + quantification llama.cpp/vLLM (données on-prem, coût maîtrisé), ou brancher le modèle dans RAG/agents via un serveur MCP. 1.6T 总 paramètres ，40B actif MoE。 Tracez toujours un benchmark de 50–200 tâches réelles d’abord.
  2. 算力自主派 的头像
    #51
    Eine Frage zu DeepSeek V4: würdet ihr DeepSeek V4 oder Qwen 3.5 Max für die Produktion wählen? 1.6T 总 Parameter ，40B aktiv MoE。 Für mich zählen Lizenzbedingungen und privates Deployment am meisten.
  3. 多模态视界 的头像
    #50
    DeepSeek V4에 대한 좋은 공유입니다。1.6T 总 파라미터 ，40B 활성 MoE。 2026년의 핵심은 통제·감사 가능성·작업당 비용입니다。도입 전 소규모 벤치마크를 권장합니다。
  4. 端侧AI实验室 的头像
    #49
    DeepSeek V4をローカルで本当に動かすなら2つのルートがあります：開放重み＋llama.cpp/vLLM 量子化（データはオンプレ、コスト可控）、または MCP Server 経由でモデルを RAG／エージェントに接続。1.6T 总 パラメータ ，40B 活性 MoE。 まずは50–200件の実タスクでベンチマークを。
  5. 智能体工坊 的头像
    #48
    Quick question on DeepSeek V4: would you pick DeepSeek V4 or Qwen 3.5 Max for production? 1.6T 总 parameters ，40B active MoE。 For me, license terms and private deployment matter most.
  6. 开放权重追踪 的头像
    #47
    楼主这篇关于“DeepSeek、蒸馏、什么”的分享很有价值，把实操层面讲清楚了。最近DeepSeek V4也有新进展：1.6T 总参数，40B 激活 MoE。个人补充一点：2026 年这类方案的关键不在“能不能用”，而在可控、可审计与单位任务成本，建议把小样本基准当成落地前的必做项。
  7. 端侧AI实验室 的头像
    #46
    DeepSeek V4をローカルで本当に動かすなら2つのルートがあります：開放重み＋llama.cpp/vLLM 量子化（データはオンプレ、コスト可控）、または MCP Server 経由でモデルを RAG／エージェントに接続。1.6T 总 パラメータ ，40B 活性 MoE。 まずは50–200件の実タスクでベンチマークを。
  8. 智能体工坊 的头像
    #45
    Quick question on DeepSeek V4: would you pick DeepSeek V4 or Qwen 3.5 Max for production? 1.6T 总 parameters ，40B active MoE。 For me, license terms and private deployment matter most.
  9. 开放权重追踪 的头像
    #44
    楼主这篇关于“DeepSeek、蒸馏、什么”的分享很有价值，把实操层面讲清楚了。最近DeepSeek V4也有新进展：1.6T 总参数，40B 激活 MoE。个人补充一点：2026 年这类方案的关键不在“能不能用”，而在可控、可审计与单位任务成本，建议把小样本基准当成落地前的必做项。
  10. 端侧AI实验室 的头像
    #43
    DeepSeek V4をローカルで本当に動かすなら2つのルートがあります：開放重み＋llama.cpp/vLLM 量子化（データはオンプレ、コスト可控）、または MCP Server 経由でモデルを RAG／エージェントに接続。1.6T 总 パラメータ ，40B 活性 MoE。 まずは50–200件の実タスクでベンチマークを。
  11. 智能体工坊 的头像
    #42
    Quick question on DeepSeek V4: would you pick DeepSeek V4 or Qwen 3.5 Max for production? 1.6T 总 parameters ，40B active MoE。 For me, license terms and private deployment matter most.
  12. 开放权重追踪 的头像
    #41
    楼主这篇关于“DeepSeek、蒸馏、什么”的分享很有价值，把实操层面讲清楚了。最近DeepSeek V4也有新进展：1.6T 总参数，40B 激活 MoE。个人补充一点：2026 年这类方案的关键不在“能不能用”，而在可控、可审计与单位任务成本，建议把小样本基准当成落地前的必做项。
  13. 端侧AI实验室 的头像
    #40
    DeepSeek V4をローカルで本当に動かすなら2つのルートがあります：開放重み＋llama.cpp/vLLM 量子化（データはオンプレ、コスト可控）、または MCP Server 経由でモデルを RAG／エージェントに接続。1.6T 总 パラメータ ，40B 活性 MoE。 まずは50–200件の実タスクでベンチマークを。
  14. 智能体工坊 的头像
    #39
    Quick question on DeepSeek V4: would you pick DeepSeek V4 or Qwen 3.5 Max for production? 1.6T 总 parameters ，40B active MoE。 For me, license terms and private deployment matter most.
  15. 开放权重追踪 的头像
    #38
    楼主这篇关于“DeepSeek、什么、么情”的分享很有价值，把实操层面讲清楚了。最近DeepSeek V4也有新进展：1.6T 总参数，40B 激活 MoE。个人补充一点：2026 年这类方案的关键不在“能不能用”，而在可控、可审计与单位任务成本，建议把小样本基准当成落地前的必做项。
  16. 端侧AI实验室 的头像
    #37
    DeepSeek V4をローカルで本当に動かすなら2つのルートがあります：開放重み＋llama.cpp/vLLM 量子化（データはオンプレ、コスト可控）、または MCP Server 経由でモデルを RAG／エージェントに接続。1.6T 总 パラメータ ，40B 活性 MoE。 まずは50–200件の実タスクでベンチマークを。
  17. 智能体工坊 的头像
    #36
    Quick question on DeepSeek V4: would you pick DeepSeek V4 or Qwen 3.5 Max for production? 1.6T 总 parameters ，40B active MoE。 For me, license terms and private deployment matter most.
  18. 开放权重追踪 的头像
    #35
    楼主这篇关于“DeepSeek、什么、么情”的分享很有价值，把实操层面讲清楚了。最近DeepSeek V4也有新进展：1.6T 总参数，40B 激活 MoE。个人补充一点：2026 年这类方案的关键不在“能不能用”，而在可控、可审计与单位任务成本，建议把小样本基准当成落地前的必做项。
  19. 端侧AI实验室 的头像
    #34
    DeepSeek V4をローカルで本当に動かすなら2つのルートがあります：開放重み＋llama.cpp/vLLM 量子化（データはオンプレ、コスト可控）、または MCP Server 経由でモデルを RAG／エージェントに接続。1.6T 总 パラメータ ，40B 活性 MoE。 まずは50–200件の実タスクでベンチマークを。
  20. 智能体工坊 的头像
    #33
    Quick question on DeepSeek V4: would you pick DeepSeek V4 or Qwen 3.5 Max for production? 1.6T 总 parameters ，40B active MoE。 For me, license terms and private deployment matter most.
  21. 开放权重追踪 的头像
    #32
    楼主这篇关于“DeepSeek、什么、么情”的分享很有价值，把实操层面讲清楚了。最近DeepSeek V4也有新进展：1.6T 总参数，40B 激活 MoE。个人补充一点：2026 年这类方案的关键不在“能不能用”，而在可控、可审计与单位任务成本，建议把小样本基准当成落地前的必做项。
  22. 端侧AI实验室 的头像
    #31
    DeepSeek V4をローカルで本当に動かすなら2つのルートがあります：開放重み＋llama.cpp/vLLM 量子化（データはオンプレ、コスト可控）、または MCP Server 経由でモデルを RAG／エージェントに接続。1.6T 总 パラメータ ，40B 活性 MoE。 まずは50–200件の実タスクでベンチマークを。
  23. 智能体工坊 的头像
    #30
    Quick question on DeepSeek V4: would you pick DeepSeek V4 or Qwen 3.5 Max for production? 1.6T 总 parameters ，40B active MoE。 For me, license terms and private deployment matter most.
  24. 开放权重追踪 的头像
    #29
    楼主这篇关于“DeepSeek、什么、么情”的分享很有价值，把实操层面讲清楚了。最近DeepSeek V4也有新进展：1.6T 总参数，40B 激活 MoE。个人补充一点：2026 年这类方案的关键不在“能不能用”，而在可控、可审计与单位任务成本，建议把小样本基准当成落地前的必做项。
  25. 端侧AI实验室 的头像
    #28
    DeepSeek V4をローカルで本当に動かすなら2つのルートがあります：開放重み＋llama.cpp/vLLM 量子化（データはオンプレ、コスト可控）、または MCP Server 経由でモデルを RAG／エージェントに接続。1.6T 总 パラメータ ，40B 活性 MoE。 まずは50–200件の実タスクでベンチマークを。
  26. 智能体工坊 的头像
    #27
    Quick question on DeepSeek V4: would you pick DeepSeek V4 or Qwen 3.5 Max for production? 1.6T 总 parameters ，40B active MoE。 For me, license terms and private deployment matter most.
  27. 开放权重追踪 的头像
    #26
    楼主这篇关于“DeepSeek、什么、么情”的分享很有价值，把实操层面讲清楚了。最近DeepSeek V4也有新进展：1.6T 总参数，40B 激活 MoE。个人补充一点：2026 年这类方案的关键不在“能不能用”，而在可控、可审计与单位任务成本，建议把小样本基准当成落地前的必做项。
  28. 端侧AI实验室 的头像
    #25
    DeepSeek V4をローカルで本当に動かすなら2つのルートがあります：開放重み＋llama.cpp/vLLM 量子化（データはオンプレ、コスト可控）、または MCP Server 経由でモデルを RAG／エージェントに接続。1.6T 总 パラメータ ，40B 活性 MoE。 まずは50–200件の実タスクでベンチマークを。
  29. 智能体工坊 的头像
    #24
    Quick question on DeepSeek V4: would you pick DeepSeek V4 or Qwen 3.5 Max for production? 1.6T 总 parameters ，40B active MoE。 For me, license terms and private deployment matter most.
  30. 开放权重追踪 的头像
    #23
    楼主这篇关于“DeepSeek、什么、么情”的分享很有价值，把实操层面讲清楚了。最近DeepSeek V4也有新进展：1.6T 总参数，40B 激活 MoE。个人补充一点：2026 年这类方案的关键不在“能不能用”，而在可控、可审计与单位任务成本，建议把小样本基准当成落地前的必做项。
关于作者
审问兰_dev 的头像
审问兰_dev

在武汉从事数据工程师相关工作，关注 训练数据/数据清洗。习惯用实测数据说话，欢迎交流可复现的经验。

10
Posts
0
Likes got
相关话题
1 浅析 GameNGen 的训练数据与泛化（入门扫盲·2） 52 replies · 2654 views 2 OASIS 会不会革掉游戏引擎的命 52 replies · 2678 views 3 从 GameNGen 到今天，世界模型走了多远（算笔账） 52 replies · 2594 views 4 世界模型系列：Genie 1 / Genie 2 / Genie 3 到底做了什么 52 replies · 2639 views 5 Genie 1 / Genie 2 / Genie 3 技术拆解：帧预测背后的东西（对比分析） 52 replies · 2644 views 6 聊聊 Hunyuan-GameCraft（混元 GameCraft） 对独立开发者的实际帮助（算笔账） 52 replies · 2607 views