arXiv cs.CL· Zhaoyan Jia, Chengwei Zhou, Gourav Datta, Massoud Pedram·· 4 小时前AI 评分39
ForkGRPO:面向扩散语言模型的高效探索与细粒度信用分配
ForkGRPO: Efficient Exploration and Fine-Grained Credit Assignment for Diffusion Language Models
AI 导读
ForkGRPO 是面向扩散语言模型(dLLM)的强化学习框架,从参考轨迹上的高熵中间状态采样多条续写,并做 segment 级细粒度信用分配。在所评估的架构保持型 RL 方法中,它在四个 benchmark 的三个上性能最佳,较 JustGRPO 最高提升 1.2 个百分点,生成 token 最多减少 27.8%。ForkGRPO-Fast 训练墙钟时间提速 2.49 倍,精度损失可忽略。
来源:arXiv cs.CL · arxiv.org