跳到正文
原文
AGI Hunt· scaling01·· 5 小时前AI 评分62

谷歌审计显示 Gemini 4 Argon 早期 RL 训练误将自身思维链计入奖励

谷歌审计发现 Argon 早期 RL 训练意外用了自身思维链算奖励

AI 导读

谷歌发布的审计说明显示,Gemini 4 Argon 早期部分 RL 训练中,本应用于惩罚 reward hacking 的辅助奖励把模型自身思维链计入输出,而非只看最终答案,相关问题发现后已全部移除。

来源:AGI Hunt · agihunt.info