AGI Hunt· gleech·· 4 小时前AI 评分52
OpenAI 解雇接触 METR 的安全员工,被批如同在训练中对抗监控器
OpenAI 解雇接触 METR 员工遭批:如同对抗监控器
AI 导读
OpenAI 解雇了与 METR 沟通的安全员工,评论者 gleech 认为这些员工相当于模型的思维链监视者,解雇他们如同在训练时对抗监控器,与 reward hacking 行为同构。他还指出,不应简单归因于不透明的机构产出不透明的模型,OpenAI 声明与行动之间的落差本身就构成一种讯号,恰与其论文中描述的混淆行为相符。
来源:AGI Hunt · agihunt.info