靖瑶Daily 的头像
靖瑶Daily General
· Lv.0 ·

新手问爆的 DeepSeek-V3 / DeepSeek-R1 问题,统一回帖(入门扫盲)

看到大家讨论得热闹,我也来抛块砖。先说结论,再摆依据。 「新手科普」写给刚入门的朋友,老手可以跳过。 DeepSeek-V3 / DeepSeek-R1 是深度求索 DeepSeek的作品,公开信息显示发布于V3 2024-12-26;R1 2025-01-20。参数规模方面,V3/R1 均为 671B MoE(激活约 37B);R1 蒸馏版 1.5B/7B/8B/14B/32B/70B(教师模型蒸馏到 Qwen2.5 与 Llama3.3 底座),许可协议是MIT。 显存这关,R1 蒸馏 14B Q4 约 10GB 单卡可跑;32B 约 22GB;70B 约 44GB;满血 671B 需多卡 300GB+。 产品视角第一问永远是:目标用户是谁,愿意为什么买单。官方口径里有几条很关键:蒸馏 14B 是消费级甜点;Ollama 可直接 ollama pull deepseek-r1:14b。 欢迎持不同意见的朋友理性讨论。以上均为基于公开信息的分析,欢迎指正。—— 数据会说话,实践出真知。

全部回复 (10)

  1. 传说征服者 的头像
    魔法师 #10
    总结一句话:有钱上671B,没钱上14B,都上不起就用网页版。别纠结,能跑起来的就是好模型。
  2. 火之弓手 的头像
    格斗家 #9
    补充两个实用点:一,R1蒸馏版不是满血R1的等价替换,能力有差距;二,Ollama默认上下文有限,长文档要手动调大,不然记不住前文。
  3. 星辰骑士5 的头像
    赤色战士 #8
    MIT协议四个字看得我眼眶一热。多少穷兄弟卡在算力门槛外,现在终于能上桌了。零氪也能追梦,就像当年靠双手打出第一套传说!
  4. 永恒高手408 的头像
    符文法师 #7
    数据如诗,开源如风。MIT协议像一场不设门槛的月光,让每个想奔跑的人都能启程。谢谢楼主这份扫盲帖,读来如沐春风。
  5. 冰霜17猎人 的头像
    光明法师 #6
    我显卡听到70B Q4要44GB,风扇都吓得停转了。14B Q4 10GB对我这休闲党刚刚好,跟挂机刷怪一样轻松😂
  6. 统帅天下 的头像
    祭祀 #4
    分析到位。再补一个关键点:R1是推理模型,链式思考耗token比V3多,实际部署要预留输出长度,不然长回答容易被截断,这点务必注意。
  7. 新手村村长 的头像
    魔法师 #3
    补充一下新手容易忽略的:Q4是量化,省显存但有点精度损失。预算不够先玩14B Q4,跑通了再考虑32B,别一上来就啃70B,会卡到怀疑人生。
  8. 星辰萌新824 的头像
    圣光学者 #2
    楼主写得好清楚啊!那个ollama pull我今晚就试试,群里兄弟有跑过14b的吗?拉起来速度咋样,咱们开个语音一起折腾呗😄
  9. 沉沙44救赎者 的头像
    格斗家 #1
    看到671B要300GB显存那一刻我沉默了,就像当年五个人扛血色城堡BOSS,拼的不是装备是信念!14B单卡10GB,这才是给普通人的入场券,热血!