AI 安全研究者 David Manheim：RL 环境与 reward hacking 乱象本质是被回避的评测设计老问题

AI 安全研究者 David Manheim 暗讽，AI 公司在 RL 环境与 reward hacking 上遭遇的麻烦，本质是长期被回避的评测设计老问题。他配图漫画将 RL Environment 画成推销员，批评自评自打分的 benchmark 靠 prompt 微调、格式 hack 和利用评分规则刷分。这些做法把长时程、人类反馈、不清晰指标等真实问题抛在一边，自己给自己打 PASSED。