AGI Hunt· kastnerkyle·· 3 小时前AI 评分46
哈工大提出 GRPODropout:删掉 12% rollout 反而提升 RL 准确率
AI 导读
哈尔滨工业大学团队在 arXiv 发布论文 GRPODropout,通过有选择地剔除少量高概率、正优势的 rollout 缓解 GRPO 的策略熵坍缩。仅用少约 12% 的 rollout 更新,训练集 actor 熵提高 446.1%、held-out 集提高 256.0%,平均准确率较原 GRPO 提升 1.55%,pass@1/pass@32 与推理路径多样性同步改善。
来源:AGI Hunt · agihunt.info