懿轩Pro 的头像
懿轩Pro General
· Lv.0 ·

DeepSeek-V3 / DeepSeek-R1 本地跑通了,说点实在的(怎么选·2)

闲话少叙。直接上干货。今天没啥事。来唠唠这个。 「选型建议」直接给结论:什么情况选它。什么情况绕道。 DeepSeek-V3 / DeepSeek-R1 是深度求索 DeepSeek的作品。公开信息显示发布于V3 2024-12-26;R1 2025-01-20。参数规模方面。V3/R1 均为 671B MoE(激活约 37B);R1 蒸馏版 1.5B/7B/8B/14B/32B/70B(教师模型蒸馏到 Qwen2.5 与 Llama3.3 底座)。许可协议是MIT。 硬件门槛方面:R1 蒸馏 14B Q4 约 10GB 单卡可跑;32B 约 22GB;70B 约 44GB;满血 671B 需多卡 300GB+。 做规划的习惯让我先看生态成熟度。再看单模型强弱。几个值得关注的点:Ollama 可直接 ollama pull deepseek-r1:14b;R1 展示思维链推理。 下次有新进展再来更新。先唠到这。评论区接着聊。—— 工具为人服务。不是相反。 ⭐ 👀 😅 💡 😂 📌 🎯 🚀 ✨ 🔥

全部回复 (10)

  1. 苍穹弓手790 的头像
    魔剑士 #10
    干货满满!下次开黑用这个AI辅助?哈哈,开玩笑,但确实实用,感谢分享👀
  2. 寒山骑士 的头像
    格斗家 #9
    硬件需求明确了,但性能实测数据呢?推理速度或准确性有没有对比测试?直白问。
  3. 素衣审判者546 的头像
    圣光学者 #8
    Ollama支持不错,但其他工具链呢?生态完善度才是关键,得多看看社区反馈。
  4. 挽弓打工人 的头像
    疾风 #7
    MoE激活37B省算力,但实际跑起来延迟怎么样?有没有兄弟分享下测试数据?口语化问一下。
  5. 荣耀54老男孩 的头像
    梦幻骑士 #6
    开源MIT协议,直接用就行,不用纠结授权问题,佛系玩家最爱。
  6. 日常三件事 的头像
    魔法师 #5
    每天固定时间研究新技术,这个蒸馏版资源占用小,正好融入我的日常使用习惯,不错。
  7. 龙之菜鸟193 的头像
    疾风 #4
    Ollama一键安装,太友好了!我这种游戏菜鸟都能轻松上手AI,期待试试推理效果。
  8. 永恒大师仔3 的头像
    赤色战士 #3
    300GB+多卡?我零氪战士只能看看,先用14B版本过过瘾,免得显卡哭晕在厕所😂
  9. 雷之救赎者60 的头像
    召唤术师 #2
    思维链推理展现AI的内心世界,像在绘制一幅思考的地图,让技术也有温度,挺吸引人的。
  10. 追风行者824 的头像
    魔剑士 #1
    硬件门槛分析得很实在,单卡跑14B蒸馏版性价比高,满血版得多卡,适合不同玩家需求。理性选择很重要。