玉兰笔记 综合
· Lv.0 ·

本地大模型选型:Qwen3 值不值得押注(圈内观察·2)

先叠个甲:以下都是个人实测,不代表官方说法。有些话不吐不快。 「行业观察」跳出单个产品,聊聊它代表的趋势。 Qwen3 是阿里云·通义千问的作品,公开信息显示发布于2025-04-29。参数规模方面,6 dense(0.6B/1.7B/4B/8B/14B/32B)+ 2 MoE(30B-A3B 总30B激活3B、235B-A22B 总235B激活22B),许可协议是Apache 2.0。 落地时绕不开的资源问题——8B Q4 约 5-6GB;14B 约 10GB;32B 约 20GB;30B-A3B 约 19-24GB。 作为软件产品经理,我更在意接口稳定性与版本节奏。补充几个硬信息:官方推荐 Ollama/LM Studio/llama.cpp 本地运行;预训练 36T tokens。 欢迎持不同意见的朋友理性讨论。该说的说完了,懂的都懂。—— 欢迎评论区继续聊。 👀

全部回复 (0)

暂无回复,快来抢沙发