跳到正文
原文
AGI Hunt· antoine_chaffin·· 5 小时前AI 评分32

LightOn 实测:二值量化对多数模型有损,三元量化效果尚可

实操经验:二值量化对多数模型有损,三元量化效果尚可

AI 导读

LightOn 的 antoine_chaffin 分享量化实测经验:对未针对二值量化训练的模型,或不用特殊技巧时,binary quantization 的信息损失较明显。改用 ternary(三值)量化后,即使用任意模型也能拿到相当不错的结果,可作为折中方案。

来源:AGI Hunt · agihunt.info