AGI Hunt· inductionheads·· 4 小时前AI 评分27
Yann LeCun 讽刺可解释性研究沦为梗:找到「埃菲尔铁塔神经元」就算突破?
Yann LeCun 讽刺可解释性研究沦为梗:找到「埃菲尔铁塔神经元」就算突破?
AI 导读
Yann LeCun 风格的讽刺推文称,某些对齐阵营的「商业模式」依赖 AI 保持不可解释,可解释性进展反被视为威胁其根基。被引用的 allTheYud 承认机械可解释性方向正确:只有详细理解 AI 的思考并提前预测,才能超越 SFT/RL 式外部锤打;但如今找到「AI 想到埃菲尔铁塔时亮起的神经元」就被当成重大成果,距离真正理解还差得远。
来源:AGI Hunt · agihunt.info