用稀疏自编码器做概念级数据选择

2026年10月16日，arXiv cs.CV 发布研究《Mind the Tail：通过稀疏概念进行数据选择》。该研究用稀疏自编码器（SAE）从单张图像中提取概念激活，在选择数据时累计数据集级的概念支持，并对该分布施加递减收益，从而把选择重心移向尾部概念。研究在细粒度分类、虚假相关、通用图像分类与多模态预训练基准上测试，称该方法一致优于强数据选择基线，并提升了对分布外与虚假上下文的鲁棒性。研究据此提出，应以概念支持而非单样本重要性作为数据高效且鲁棒学习的原则。目前尚无后续报道。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。