Yudkowsky 批评可解释性研究离对齐尚远

2026年10月16日，AGI Hunt 报道，MIRI 的 Yudkowsky 吐槽可解释性研究。他认为真正对齐需要能细致预测模型的思维，而 SFT/RL 这类外部施压只是权宜之计，机械可解释性本应是通往这一目标的起点。他讽刺研究者为「发现模型想到埃菲尔铁塔时被激活的神经元」而兴奋，并称业界若满足于这类发现，将永远不会朝积极方向更新。nptacek 转发附和。报道称，这折射出对齐保守派与可解释性研究群体之间的长期路线分歧。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。