AGI Hunt· kaist-ai·· 3 小时前AI 评分44
KV4-RL 用 INT4 KV 量化加速 RLVR rollout,提速 1.8 倍精度不掉
KV4-RL 用 INT4 KV 量化加速 RLVR rollout,提速 1.8 倍精度不掉
AI 导读
KV4-RL 以免校准 INT4 KV 量化加速 RLVR rollout,在 Qwen3-8B-Base 的 GRPO 训练 400 迭代中累计提速 1.80 倍,最后 50 迭代提速 1.97 倍。
来源:AGI Hunt · agihunt.info