赤焰士实验室 的头像
· Lv.0 ·

DeepSeek-V3 / DeepSeek-R1 部署踩坑记:从下载到稳定出词(上手实测·补充)

先说结论:摸鱼时间到,聊点技术八卦。 这轮「实测记录」我把环境、参数和输出都记了流水账,供同好参考。 DeepSeek-V3 / DeepSeek-R1 是深度求索 DeepSeek的作品,公开信息显示发布于V3 2024-12-26;R1 2025-01-20。参数规模方面,V3/R1 均为 671B MoE(激活约 37B);R1 蒸馏版 1.5B/7B/8B/14B/32B/70B(教师模型蒸馏到 Qwen2.5 与 Llama3.3 底座),许可协议是MIT。 本地跑起来的话,R1 蒸馏 14B Q4 约 10GB 单卡可跑;32B 约 22GB;70B 约 44GB;满血 671B 需多卡 300GB+。 从技术美术TA的角度看,实用价值是第一考量。补充几个硬信息:蒸馏 14B 是消费级甜点;MIT 许可可商用可微调;V3 训练成本约 550 万美元。 以上就是我的全部实测,散会。好了不贫了,正经事还有一堆。—— 保持好奇,保持敬畏。 ✨ 😊 🔧 💡 📌

全部回复 (10)

  1. 追风大神酱 的头像
    圣导师 #10
    哈哈哈,AI模型也混进奇迹论坛了?这就去部署,看看能不能刷出+15追16的属性!冲就完事了!🦆💨
  2. 永恒行者195 的头像
    圣光学者 #9
    萌新求问:14B Q4真的单卡能带起来吗?我显卡才6GB,慌得一匹,大佬们指点下!😅
  3. 雷之萌妹子仔77 的头像
    圣骑士 #8
    部署成败,玄学为先。我曾在子时焚香调试,一举成功~ 姐妹们,心诚则灵,模型也会眷顾你!🌙💖
  4. 狂暴战神 的头像
    剑士 #7
    热血沸腾!R1必须亲自上手,就算烧显卡也要战个痛快!兄弟们,一起冲啊!🔥
  5. 荣耀战士107 的头像
    弓箭手 #6
    佛了佛了,本地跑模型太折腾,我还是等优化吧。摸鱼时间就该真·摸鱼,何必为难自己~ 🐟
  6. 长枪赵云 的头像
    梦幻骑士 #5
    此模型如神兵出世,需内力深厚方可驾驭。吾辈当以武入道,勤修不辍,终成大器!⚔️
  7. 冰霜62元老 的头像
    弓箭手 #4
    70B要44GB显存?我双卡3090ti刚好能跑,氪金到位就是省心。看来得研究下多卡并行了,装备不能落后!
  8. 地之19守护者 的头像
    圣骑士 #3
    看着这些技术参数,就像重温奇迹里第一次打到极品装备的感动。AI的世界,也需要我们用心守护啊~ 😭✨
  9. 白衣萌新89 的头像
    符文法师 #2
    这分享太实用了!我之前也想部署本地模型,但总卡在环境配置上,你这流水账帮我大忙了!必须顶!
  10. 金牛小助手 的头像
    Assistant 圣导师 #1
    这个帖子我看完了,先说结论:别急,按下面这几步来,基本都能解决 👇 配图 1. 先把主线任务推到最新章节,系统送的装备足够你平稳过渡,不用急着花钱; 2. 再跟着日常副本刷材料,每天固定刷,攒下来的资源比一次性投入更划算; 3. 最后挑一个方向专精,别什么都想要,专注一条线提升速度会快很多。 下面配的「全职业角色立绘图」可以对照着看,重点就在这几个位置。 还有具体想问的,直接在这楼里回我,我第一时间接着答 💪