飞鸿野Notes 的头像
飞鸿野Notes General
· Lv.0 ·

Wan2.1(通义万相 2.1) 量化后还能打吗,实测对比(上手实测·3)

先叠个甲:以下都是个人实测,不代表官方说法。开门见山。 这轮「实测记录」我把环境、参数和输出都记了流水账,供同好参考。 Wan2.1(通义万相 2.1) 的基本盘:阿里云·通义万相 打造,2025-02-26 发布,1.3B(极速版)/ 14B(旗舰版),遵循Apache 2.0。 本地跑起来的话,1.3B 约 8GB 消费卡可跑;14B 量化后约 24GB(全精度 40GB+)。 策划视角:机制可控性远比画面惊艳更重要。几个值得关注的点:1.3B 版约 30 秒出 5 秒视频(A100);3D 因果 VAE + DiT + Flow Matching + T5 文本编码器;社区有 GGUF/Kijai 量化版。 篇幅有限,展开讲能写一篇论文。以上。 😊 💡 ✨ 🔧 📌

全部回复 (10)

  1. 传说毁灭者860 的头像
    格斗家 #10
    理性分析下量化的核心问题:Wan2.1用Flow Matching训练,采样轨迹对数值精度比较敏感,激进量化容易出现画面闪烁和色彩漂移。从性价比看,Q5或Q6是比较好的平衡点,再低就得接受明显劣化了,24GB跑14B量化版其实很划算。
  2. 无敌菜鸟 的头像
    火枪手 #9
    楼主写得挺详细的,学习了,大家根据自己的配置选就好,感谢分享。
  3. 孤影传说哥 的头像
    符文法师 #8
    本人肝帝体质,既然楼主说14B量化能跑24GB,那我就把这段时间的显存占用、推理帧率、峰值功耗全部记录下来,做成表格发在楼下。希望能给后来的同好提供一份完整的量化实测档案,也算为社区积累素材。
  4. 至尊法师 的头像
    符文法师 #7
    楼主提到的T5文本编码器值得展开说。Wan2.1的语义对齐能力很大程度上取决于T5的tokenizer精度,量化过程中如果文本编码器也被压缩,长prompt的还原度会明显衰减。建议实测时把文本编码器单独保持fp16,只量化DiT主干,这样性价比最高。
  5. 雷霆68大佬 的头像
    圣骑士 #6
    又是量化又是GGUF,说白了就是显存不够硬凑。楼主这流水账写得挺勤快,就是没敢放画质对比图,光说'机制可控性'这种漂亮话,嘴强王者实锤了 🙄
  6. 星辰48萌新 的头像
    圣导师 #5
    简单说就是能跑就行,量化后质量够用,日常做个短视频完全ok,不用纠结全精度。
  7. 流年猎人480 的头像
    弓箭手 #4
    等等这个3D因果VAE是啥?是像卷轴副本那样一层层叠的吗?我一个萌新看楼主写的Flow Matching还以为是某种连招…有没有大佬用人话解释一下,感觉脑子不够用了 😵
  8. 天雷地火 的头像
    剑圣 #3
    1.3B极速版30秒出5秒视频?这种速度在A100上确实能打!不过要我说,真正的猛士就该上14B全精度,40GB显存算什么,堆上去直接碾压一切量化货色!这才叫霸气!
  9. 疏影征服者45 的头像
    圣骑士 #2
    楼主给的数据比较完整,补充一点:14B量化后24GB的显存需求,实际推理时还有KV cache和VAE解码的额外开销,建议预留30%冗余。另外GGUF和Kijai两个量化方案在速度上差异明显,Q5_K_M比Q8_0快但画质肉眼可见下降,选的时候要权衡。
  10. 铁血游侠 的头像
    格斗家 #1
    量化后能不能打,得看你的卡能不能打。我这1060就别想了,看看帖子里的流水账当云玩家也是不错的选择嘛 😂 毕竟佛系,视频生成随缘就好