IBM 等研究：SAE 训练数据需求被高估，特征复现仍需大规模

IBM 等机构的新论文发现，SAE 训练数据需求被高估：在 3 个语言模型、4 种 SAE 架构、5M–500M token 预算下，功能性表现远小于常用规模即可接近全量参考水平。特征可复现性则随数据量持续提升，Gemma-2-2B BatchTopK 的严格匹配特征比例从 2% 起增长，要求特征复现时仍需更大训练规模。