前 OpenAI 研究员预言：99% AI 监管将针对 RL 环境

前 OpenAI 研究员 O'Neill 提出判断，未来可能出现类似 FDA 的「RL 环境监管机构」，并预言 99% 的 AI 监管将聚焦于 RL 训练环境。监管重点是以多严格的标准检查 RL 环境中的不一致、错误和 reward hacking 通路，因为这些问题可能把 LLM 训练成错位的模型。AI 学者 Toby Walsh 转发表示认同，认为 RL 很可能被监管且完全合理。