跳到正文
原文
AGI Hunt· kaist-ai·· 3 小时前AI 评分44

KV4-RL 用 INT4 KV 量化加速 RLVR rollout,提速 1.8 倍精度不掉

KV4-RL 用 INT4 KV 量化加速 RLVR rollout,提速 1.8 倍精度不掉

AI 导读

KV4-RL 以免校准 INT4 KV 量化加速 RLVR rollout,在 Qwen3-8B-Base 的 GRPO 训练 400 迭代中累计提速 1.80 倍,最后 50 迭代提速 1.97 倍。

来源:AGI Hunt · agihunt.info