跳到正文
原文
AGI Hunt· Fancy-Snow7·· 4 小时前AI 评分52

189 组基准实测:16GB 显存跑 Qwen3 27B 的 KV 量化怎么选

AI 导读

Reddit 用户对可在 16GB 显存内运行的 21 个 Qwen3 27B 量化版本、9 档 KV 量化组合做了 189 组基准,用 KLD 和困惑度评估质量。

来源:AGI Hunt · agihunt.info