跳到正文
原文
AGI Hunt· UniversityofSouthernCalifornia·· 2 小时前AI 评分47

南加州大学发布 SoloQ:免校准 4 比特量化,扩散语言模型内存最高降 2.61 倍

USC 发布 SoloQ:免校准 4 比特量化,扩散语言模型内存降 2.61 倍

AI 导读

南加州大学团队在 Hugging Face 发布免校准后训练量化框架 SoloQ,面向扩散大语言模型(dLLM)。

来源:AGI Hunt · agihunt.info