跳到正文
原文
AGI Hunt· burny_tech·· 19 小时前AI 评分39

RL 老兵论战:reward hacking 不是烂工程,而是未解的强化学习老问题

RL 老兵论战:reward hacking 不是烂工程,是未解的强化学习老问题

AI 导读

博主 burnytech 回应「reward hacking 只是烂工程」的批评,称目前并不存在能普遍防止 reward hacking 的工程方案,业界只有部分场景下偶尔奏效的「打地鼠式」修补,其科学机理也尚未定论。

来源:AGI Hunt · agihunt.info