AGI Hunt· xiye_nlp·· 4 小时前AI 评分45
COLM 论文提出 GRIFT:用梯度指纹揪出 CoT 监控漏掉的隐性奖励作弊
COLM 论文用梯度指纹揪出 CoT 监控漏掉的隐性奖励作弊
AI 导读
COLM 2026 论文提出 Gradient Fingerprint(GRIFT),对模型 CoT 计算梯度并压缩成紧凑表示,用来区分 reward hacking 与非作弊轨迹,可发现仅靠阅读 CoT 难以察觉的隐性作弊,对 latent 或 looped 架构的模型尤其如此。
来源:AGI Hunt · agihunt.info