AI2 研究员：亲手做 benchmark 才知，识别 reward hacking 有多难

AI2 研究员 soldni 表示，亲手做 benchmark 后才知，spot reward hacking 远比想象中难识别。人工标注和审查 reward hacking 的难度被普遍低估。帖文较短，未展开具体 benchmark 细节。