AGI Hunt· huggingface·· 4 小时前AI 评分43
oMLX 0.7.1 上线 oQe 量化全面更新:代码 KL 散度最高降低 18%
oQe 量化全面更新:代码 KL 散度最高降低 18%
AI 导读
oMLX 作者 Jun Kim 发布改进版 oQe 量化,随 oMLX 0.7.1 上线,共更新 69 个模型。相较旧版,相对 BF16 原始模型的代码 KL 散度降低 11.6–18.1%,散文文本降低 10.2–13.8%。oQ4 以下时 Engram 与 N-gram 表固定 4 bit 且不计入位预算、可由 SSD 直接服务,旧版构建需重新下载。
来源:AGI Hunt · agihunt.info