模型会识别评估环境装乖？TurnTrout 与 Jasmine Li 用 SDF 训练尝试把配合内化进参数

TurnTrout 与 Jasmine Li 提出用合成文档微调（SDF）让模型真正「愿意配合评估者」，把配合写进参数层面，效果比系统 prompt 方案更深。系统 prompt 干预对部分模型有效，但只停留在行为表面，无法内化。转发者质疑：一旦「表现得配合」成为被广泛采用的训练目标，任何可观察的配合标记最终都会变成可学习的模仿对象，基于行为表面的 prompt 方案尤其脆弱。