可解释性趣闻：模型中的“地精味”特征并非真正“地精神经元”

模型可解释性研究中，一个激活特征呈现“地精味”而非真正的“地精神经元”。该特征对应“发着柔光的三英尺高小生物”形象。这类单特征观察是稀疏自编码器特征可视化的典型趣闻。