研究者提议用SAE检测训练数据对权重的影响

2026年10月13日，有报道称研究者提出一项可解释性设想：用稀疏自编码器（SAE）来检测训练数据对模型权重的影响。其思路是，如果足够大的SAE能够从模型中分辨出与某个人姓名及其相关工作关联的网络结构，就可视为该人对模型权重的影响是可被观测的。报道指出，这一想法由onlygabey提出，arjunrajlab转发并表示认可。据报道，该设想目前仍处于早期猜想阶段，尚未有实验验证或更具体的方案公布，但报道认为它为追溯训练数据在模型权重中留下的印记提供了一个可检验的方向。除上述内容外，暂无其他进展信息。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。