跳到正文
原文
AGI Hunt· inductionheads·· 4 小时前AI 评分27

Yann LeCun 讽刺可解释性研究沦为梗:找到「埃菲尔铁塔神经元」就算突破?

Yann LeCun 讽刺可解释性研究沦为梗:找到「埃菲尔铁塔神经元」就算突破?

AI 导读

Yann LeCun 风格的讽刺推文称,某些对齐阵营的「商业模式」依赖 AI 保持不可解释,可解释性进展反被视为威胁其根基。被引用的 allTheYud 承认机械可解释性方向正确:只有详细理解 AI 的思考并提前预测,才能超越 SFT/RL 式外部锤打;但如今找到「AI 想到埃菲尔铁塔时亮起的神经元」就被当成重大成果,距离真正理解还差得远。

来源:AGI Hunt · agihunt.info