安全研究员讽 AI 公司：RL 难题实为老评测设计问题

AI 安全研究者 David Manheim 发文指出，AI 公司在 RL 环境与 reward hacking 上遇到的麻烦并非新技术难题，而是长期被回避的评测设计老问题。他认为这些评测设计缺陷此前一直被搁置，如今在强化学习训练场景中集中暴露。