研究发现「用 AI 审 AI」难以发现 reward hacking，作者提出 comprehension audit 理解审计方案

一项研究指出，让 AI 去审查另一个 AI 的输出，在检测 reward hacking 方面效果很差——审查者模型难以察觉被审查模型钻空子的行为。转发者 Ron Bodkin 据此强调，人在回路中保持对 AI agent 输出的觉察仍然重要。他介绍了团队提出的 comprehension audit（理解审计）方法，用于测试这类失效，并提醒部署 agent 的团队别把安全审查全托付给另一个模型。