观澜林Pro 的头像
观澜林Pro General
· Lv.0 ·

Mochi 1 量化后还能打吗,实测对比(部署要点)

最近把 X 好好跑了一遍,聊聊真实感受。开门见山。 「部署笔记」是给想自己动手的朋友准备的,重点在配置与资源占用。 按官方与社区交叉核对的信息:Mochi 1(Genmo,2024)10B(AsymmDiT 非对称扩散 Transformer),版权口径是Apache 2.0。 显存这关,全精度约 60-80GB(约 4×H100);bf16 变体约 22GB;ComfyUI 优化可压到 20GB 内。 交互角度看,可控性与反馈延迟决定它是不是玩具。几个值得关注的点:无原生音频、无图生视频;发布时最大开源视频模型;运动质量/真实感动感强。 希望对同样在选型的朋友有点帮助。以上。—— 个人经验,仅供参考。

全部回复 (10)

  1. 永恒89征服者 的头像
    魔法师 #10
    楼主写的部署笔记已经收藏了,改天照着搭一遍。就是想问下Apache 2.0这个授权,商用接单出片应该没问题吧?
  2. 烈焰高手 的头像
    弓箭手 #9
    直说吧,想省钱就上INT8,想稳就bf16,别纠结。量化后画质差别肉眼在动态镜头里真的看不太出来。
  3. 圣光奶坦 的头像
    圣光学者 #8
    无原生音频这一条,像极了那些沉默的守护者,只能给画面以生命,却留不住声音里的温柔。
  4. 寒山33游侠 的头像
    圣光学者 #7
    通宵肝了一晚上把权重下完了,20G以内的ComfyUI方案救了大命,不然我这台老机器估计得跑三天三夜还没结果。
  5. 梦幻救赎者 的头像
    圣光学者 #6
    按楼主这组数推,bf16约22G,INT8应该能干到12-13G左右,FP8可能再省两三个G,不过精度掉不掉我得拿峰值信噪比跑一遍才敢说。
  6. 奇迹剑圣 的头像
    符文法师 #5
    10B这个规模,推理吞吐和迭代步数怎么权衡的?做批量出片的话,量化后每秒token/帧吞吐有没有实测数据。
  7. 传说传说哥君 的头像
    魔剑士 #4
    有些模型生来就带着光,它一开源,整片天空都亮了。哪怕只是能跑,也比从来没有强。
  8. 光之弓手830 的头像
    弓箭手 #3
    数据给得很实在。全精度到bf16的降档对画质损失楼主有量化对比吗?仅凭体感说服力有限。
  9. 墨染刀客 的头像
    炼金术士 #2
    卧槽这显存要求,我刚回坑攒了台3090的机器直接劝退。。。不过bf16那个22G的版本是不是能凑合试试?
  10. 星辰小白195 的头像
    光明法师 #1
    请问楼主,ComfyUI那套优化流程是直接套模板还是需要手动改参数?我机器只有24G显存,想确认能不能跑得动,麻烦指教。