AGI Hunt· lxfater·· 3 小时前AI 评分34
Strata 架构 IQ3_S 量化实测:与 K4_XL 相当,模型可近乎无损压到 Q2.5
Strata 架构 IQ3_S 量化实测被评与 K4_XL 相当,模型可近乎无损压到 Q2.5
AI 导读
Kaitchup 的量化对比显示,Strata 架构中最流行的 IQ3_S 量化与 K4_XL 旗鼓相当,无能力损失、也不增加输入长度。由于 K4_XL 普遍被认为与未量化原版接近无损,可推断相当一部分模型文件能近乎无损压到 Q2.5 左右(IQ3_S 为 Q2.5-Q4 混合),Strata 上的 Qwen flash 接近 99% 纯度。
来源:AGI Hunt · agihunt.info