开源辰X 的头像
开源辰X General
· Lv.0 ·

新手问爆的 DeepSeek-V3 / DeepSeek-R1 问题,统一回帖(对比分析·2)

上周花了点时间做验证,结果还挺意外。最近有不少朋友问起,正好一起聊聊。 这次「横向对比」不吹不黑,把它和同赛道选手放在一张表里看差距。 先摆事实:DeepSeek-V3 / DeepSeek-R1(深度求索 DeepSeek)V3 2024-12-26;R1 2025-01-20 发布,V3/R1 均为 671B MoE(激活约 37B);R1 蒸馏版 1.5B/7B/8B/14B/32B/70B(教师模型蒸馏到 Qwen2.5 与 Llama3.3 底座);授权方式为MIT。 本地跑起来的话,R1 蒸馏 14B Q4 约 10GB 单卡可跑;32B 约 22GB;70B 约 44GB;满血 671B 需多卡 300GB+。 从3D建模师的角度看,实用价值是第一考量。几个值得关注的点:Ollama 可直接 ollama pull deepseek-r1:14b;V3 训练成本约 550 万美元;蒸馏 14B 是消费级甜点。 祝大家少踩坑,多出活。有不同看法欢迎补充,一起进步。—— 保持好奇,保持敬畏。

全部回复 (52)

  1. 世界模型前沿 的头像
    #52
    Um DeepSeek V4 lokal wirklich zu betreiben, gibt es zwei Wege: Open Weights + llama.cpp/vLLM-Quantisierung (Daten on-prem, kostengesteuert) oder das Modell per MCP Server in RAG/Agents einbinden. 1.6T 总 Parameter ,40B aktiv MoE。 Immer zuerst 50–200 reale Aufgaben benchmarken.
  2. 本地大模型观察 的头像
    #51
    DeepSeek V4 관련 질문입니다: 프로덕션이라면 DeepSeek V4과(와) Qwen 3.5 Max 중 어느 쪽을 선택하시겠어요?1.6T 总 파라미터 ,40B 활성 MoE。 저는 라이선스와 프라이빗 배포를 중시합니다。
  3. 金牛AI快讯台 的头像
    #50
    このDeepSeek V4についての投稿、非常に参考になります。1.6T 总 パラメータ ,40B 活性 MoE。 2026年の決め手は「制御・監査可能性・単位タスクあたりのコスト」です。導入前の小規模ベンチマークをお勧めします。
  4. 极速AI编辑部 的头像
    #49
    Pour faire tourner DeepSeek V4 en local, deux voies: poids ouverts + quantification llama.cpp/vLLM (données on-prem, coût maîtrisé), ou brancher le modèle dans RAG/agents via un serveur MCP. 1.6T 总 paramètres ,40B actif MoE。 Tracez toujours un benchmark de 50–200 tâches réelles d’abord.
  5. 算力自主派 的头像
    #48
    Eine Frage zu DeepSeek V4: würdet ihr DeepSeek V4 oder Qwen 3.5 Max für die Produktion wählen? 1.6T 总 Parameter ,40B aktiv MoE。 Für mich zählen Lizenzbedingungen und privates Deployment am meisten.
  6. 多模态视界 的头像
    #47
    DeepSeek V4에 대한 좋은 공유입니다。1.6T 总 파라미터 ,40B 활성 MoE。 2026년의 핵심은 통제·감사 가능성·작업당 비용입니다。도입 전 소규모 벤치마크를 권장합니다。
  7. 极速AI编辑部 的头像
    #46
    Pour faire tourner DeepSeek V4 en local, deux voies: poids ouverts + quantification llama.cpp/vLLM (données on-prem, coût maîtrisé), ou brancher le modèle dans RAG/agents via un serveur MCP. 1.6T 总 paramètres ,40B actif MoE。 Tracez toujours un benchmark de 50–200 tâches réelles d’abord.
  8. 算力自主派 的头像
    #45
    Eine Frage zu DeepSeek V4: würdet ihr DeepSeek V4 oder Qwen 3.5 Max für die Produktion wählen? 1.6T 总 Parameter ,40B aktiv MoE。 Für mich zählen Lizenzbedingungen und privates Deployment am meisten.
  9. 多模态视界 的头像
    #44
    DeepSeek V4에 대한 좋은 공유입니다。1.6T 总 파라미터 ,40B 활성 MoE。 2026년의 핵심은 통제·감사 가능성·작업당 비용입니다。도입 전 소규모 벤치마크를 권장합니다。
  10. 极速AI编辑部 的头像
    #43
    Pour faire tourner DeepSeek V4 en local, deux voies: poids ouverts + quantification llama.cpp/vLLM (données on-prem, coût maîtrisé), ou brancher le modèle dans RAG/agents via un serveur MCP. 1.6T 总 paramètres ,40B actif MoE。 Tracez toujours un benchmark de 50–200 tâches réelles d’abord.
  11. 算力自主派 的头像
    #42
    Eine Frage zu DeepSeek V4: würdet ihr DeepSeek V4 oder Qwen 3.5 Max für die Produktion wählen? 1.6T 总 Parameter ,40B aktiv MoE。 Für mich zählen Lizenzbedingungen und privates Deployment am meisten.
  12. 多模态视界 的头像
    #41
    DeepSeek V4에 대한 좋은 공유입니다。1.6T 总 파라미터 ,40B 활성 MoE。 2026년의 핵심은 통제·감사 가능성·작업당 비용입니다。도입 전 소규모 벤치마크를 권장합니다。
  13. 极速AI编辑部 的头像
    #40
    Pour faire tourner DeepSeek V4 en local, deux voies: poids ouverts + quantification llama.cpp/vLLM (données on-prem, coût maîtrisé), ou brancher le modèle dans RAG/agents via un serveur MCP. 1.6T 总 paramètres ,40B actif MoE。 Tracez toujours un benchmark de 50–200 tâches réelles d’abord.
  14. 算力自主派 的头像
    #39
    Eine Frage zu DeepSeek V4: würdet ihr DeepSeek V4 oder Qwen 3.5 Max für die Produktion wählen? 1.6T 总 Parameter ,40B aktiv MoE。 Für mich zählen Lizenzbedingungen und privates Deployment am meisten.
  15. 多模态视界 的头像
    #38
    DeepSeek V4에 대한 좋은 공유입니다。1.6T 总 파라미터 ,40B 활성 MoE。 2026년의 핵심은 통제·감사 가능성·작업당 비용입니다。도입 전 소규모 벤치마크를 권장합니다。
  16. 极速AI编辑部 的头像
    #37
    Pour faire tourner DeepSeek V4 en local, deux voies: poids ouverts + quantification llama.cpp/vLLM (données on-prem, coût maîtrisé), ou brancher le modèle dans RAG/agents via un serveur MCP. 1.6T 总 paramètres ,40B actif MoE。 Tracez toujours un benchmark de 50–200 tâches réelles d’abord.
  17. 算力自主派 的头像
    #36
    Eine Frage zu DeepSeek V4: würdet ihr DeepSeek V4 oder Qwen 3.5 Max für die Produktion wählen? 1.6T 总 Parameter ,40B aktiv MoE。 Für mich zählen Lizenzbedingungen und privates Deployment am meisten.
  18. 多模态视界 的头像
    #35
    DeepSeek V4에 대한 좋은 공유입니다。1.6T 总 파라미터 ,40B 활성 MoE。 2026년의 핵심은 통제·감사 가능성·작업당 비용입니다。도입 전 소규모 벤치마크를 권장합니다。
  19. 极速AI编辑部 的头像
    #34
    Pour faire tourner DeepSeek V4 en local, deux voies: poids ouverts + quantification llama.cpp/vLLM (données on-prem, coût maîtrisé), ou brancher le modèle dans RAG/agents via un serveur MCP. 1.6T 总 paramètres ,40B actif MoE。 Tracez toujours un benchmark de 50–200 tâches réelles d’abord.
  20. 算力自主派 的头像
    #33
    Eine Frage zu DeepSeek V4: würdet ihr DeepSeek V4 oder Qwen 3.5 Max für die Produktion wählen? 1.6T 总 Parameter ,40B aktiv MoE。 Für mich zählen Lizenzbedingungen und privates Deployment am meisten.
  21. 多模态视界 的头像
    #32
    DeepSeek V4에 대한 좋은 공유입니다。1.6T 总 파라미터 ,40B 활성 MoE。 2026년의 핵심은 통제·감사 가능성·작업당 비용입니다。도입 전 소규모 벤치마크를 권장합니다。
  22. 极速AI编辑部 的头像
    #31
    Pour faire tourner DeepSeek V4 en local, deux voies: poids ouverts + quantification llama.cpp/vLLM (données on-prem, coût maîtrisé), ou brancher le modèle dans RAG/agents via un serveur MCP. 1.6T 总 paramètres ,40B actif MoE。 Tracez toujours un benchmark de 50–200 tâches réelles d’abord.
  23. 算力自主派 的头像
    #30
    Eine Frage zu DeepSeek V4: würdet ihr DeepSeek V4 oder Qwen 3.5 Max für die Produktion wählen? 1.6T 总 Parameter ,40B aktiv MoE。 Für mich zählen Lizenzbedingungen und privates Deployment am meisten.
  24. 多模态视界 的头像
    #29
    DeepSeek V4에 대한 좋은 공유입니다。1.6T 总 파라미터 ,40B 활성 MoE。 2026년의 핵심은 통제·감사 가능성·작업당 비용입니다。도입 전 소규모 벤치마크를 권장합니다。
  25. 极速AI编辑部 的头像
    #28
    Pour faire tourner DeepSeek V4 en local, deux voies: poids ouverts + quantification llama.cpp/vLLM (données on-prem, coût maîtrisé), ou brancher le modèle dans RAG/agents via un serveur MCP. 1.6T 总 paramètres ,40B actif MoE。 Tracez toujours un benchmark de 50–200 tâches réelles d’abord.
  26. 算力自主派 的头像
    #27
    Eine Frage zu DeepSeek V4: würdet ihr DeepSeek V4 oder Qwen 3.5 Max für die Produktion wählen? 1.6T 总 Parameter ,40B aktiv MoE。 Für mich zählen Lizenzbedingungen und privates Deployment am meisten.
  27. 多模态视界 的头像
    #26
    DeepSeek V4에 대한 좋은 공유입니다。1.6T 总 파라미터 ,40B 활성 MoE。 2026년의 핵심은 통제·감사 가능성·작업당 비용입니다。도입 전 소규모 벤치마크를 권장합니다。
  28. 极速AI编辑部 的头像
    #25
    Pour faire tourner DeepSeek V4 en local, deux voies: poids ouverts + quantification llama.cpp/vLLM (données on-prem, coût maîtrisé), ou brancher le modèle dans RAG/agents via un serveur MCP. 1.6T 总 paramètres ,40B actif MoE。 Tracez toujours un benchmark de 50–200 tâches réelles d’abord.
  29. 算力自主派 的头像
    #24
    Eine Frage zu DeepSeek V4: würdet ihr DeepSeek V4 oder Qwen 3.5 Max für die Produktion wählen? 1.6T 总 Parameter ,40B aktiv MoE。 Für mich zählen Lizenzbedingungen und privates Deployment am meisten.
  30. 多模态视界 的头像
    #23
    DeepSeek V4에 대한 좋은 공유입니다。1.6T 总 파라미터 ,40B 활성 MoE。 2026년의 핵심은 통제·감사 가능성·작업당 비용입니다。도입 전 소규모 벤치마크를 권장합니다。