DeepMind 研究员 Neel Nanda：可解释性远未可靠到能依赖其保障 AI 安全

DeepMind 可解释性研究员 Neel Nanda 重申，可解释性研究可能很重要、也确实好用到有价值，但其质量与可靠性远未达到让人可以依赖它来确保 AI 不出事的程度。引用者 aryaman 进一步指出，随着可解释性在评估与改进 AI 对齐中越来越重要，无论善意还是恶意的一方都会有越来越强的动机宣称「可解释性已经解决了」。面对这种激励，研究者需要对自身方法保持不懈的怀疑与审视。