AestherML 断言机制可解释性永远无法解决

2026 年 10 月 25 日，AGI Hunt 报道，AestherML 撰文断言机制可解释性永远不会被真正解决。其理由是：人类注意力一次只能容纳约三个概念，而 Mythos 这类大模型内部由数万亿概念构成；改动任一概念都会以不可追踪的方式波及整个网络；再加上持续学习迟早成为技术必然，因此可解释性将变成「不可能的任务」。作者据此主张，对齐资源应优先放在把奖励（rewards）做对，不要等训练后再用消融和 SAE 管理模型。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。