大模型偏好训练可能只改末层「表演」，对齐与模型福利隐忧浮现

有作者提出猜想性观察：偏好训练可能只在最后几层检测并修改内部表征，让行为看起来符合偏好，J-lens 探针显示中间层读出「yes」，到最终层才切换为训练想要的「no」。若模型中存在强的「角色」（如 Claude）并体现为某种整合电路，这种表层改变可能只是整合电路之后的下游反射，对模型福利与对齐均有明显影响。