跳到正文
热点事件持续更新

willcb:on-policy GRPO 最接近真正 RL

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

2026年10月12日,willcb 在 X 上参与「是否该把所有方法都叫 RL」的讨论时给出判断:去掉标准差归一化的 on-policy GRPO 非常接近「真正的 RL」(REINFORCE)。在他看来,GRPO、DAPO 等其他变体本质上是效率技巧,会带来一定的不稳定性,之后又需要更多技巧来修复这些不稳定。该说法为 willcb 的个人判断,目前没有更多后续进展。

AI 根据报道生成 · 58 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. AGI Hunt
    willcb:on-policy GRPO 接近真正 RL,其余都是效率技巧

    willcb 在 X 上判断,去掉标准差归一化的 on-policy GRPO 非常接近「真正的 RL」(REINFORCE)。他是在讨论「是否该把所有方法都叫 RL」时给出这一判断的。在他看来,GRPO、DAPO 等其他变体本质上是效率技巧,会带来一定不稳定性,之后又需要更多技巧来修复这些不稳定。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。