AGI Hunt· rohanpaul_ai·· 5 小时前AI 评分45
Anthropic 发布 GRAFT:用可删除适配器抑制奖励作弊
AI 导读
Anthropic 联合 MATS、Stanford、FAR AI 发布论文 GRAFT,通过梯度路由把可疑梯度隔离到可删除的适配器中,训练完成后移除适配器即可根治强化学习中的 reward hacking。论文编号 arXiv:2610.17062,作者包括 Jake Ward、Shawn Hu、Aria Wo 等,并附有原文链接与实验细节。
来源:AGI Hunt · agihunt.info