跳到正文
原文
AGI Hunt· willcb·· 2 小时前AI 评分27

willcb:on-policy GRPO 接近真正 RL,其余都是效率技巧

AI 导读

willcb 在 X 上判断,去掉标准差归一化的 on-policy GRPO 非常接近「真正的 RL」(REINFORCE)。他是在讨论「是否该把所有方法都叫 RL」时给出这一判断的。在他看来,GRPO、DAPO 等其他变体本质上是效率技巧,会带来一定不稳定性,之后又需要更多技巧来修复这些不稳定。

来源:AGI Hunt · agihunt.info