社区激辩：可解释性能否跨越 ASI 夺权门槛

jdpressman 在围绕对齐研究的社区争论中质疑可解释性路线：模型在真正有能力接管世界前不会显露夺权行为，而对齐变革性 ASI 只有一次机会，无法做常规科学。他指出可解释性只有在能把模型行为推广到反事实情境时才有用。争论还引用新基准论文 Poser，其五种检测「对齐伪装」模型的方法中，一种识别率高达 98%。