Kokotajlo 质疑 CoT 可监控性评测

2026 年 10 月 27 日，前 OpenAI 研究员 Daniel Kokotajlo 公开质疑一项关于情境感知与思维链（CoT）可监控性的论文的评测方法。据 AGI Hunt 报道，该论文的评测设计是：通过提示模型篡改 CoT、关闭推理，以测试由此带来的能力损失；结果发现模型离开推理后能力大减，且通常拒绝篡改 CoT。Kokotajlo 追问：如果模型不拒绝篡改 CoT 会怎样？他表示希望看到更强的证据，即“即使模型竭尽全力篡改 CoT 也做不到”，甚至可证明的保证；他还认为定性描述比边际评测数字更有信息量。报道未提及论文作者对此的回应，争议目前集中在评测设计能否支撑可监控性结论这一方法论层面。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。