arXiv cs.CV· Andrei Jarca, Vlad Hondru, Florinel-Alin Croitoru, Radu Tudor Ionescu·· 4 小时前AI 评分36
EigDiff:用特征样本扩散大幅缩减训练数据集,性能几乎不变
EigDiff: Eigensample Diffusion - or how to significantly reduce training dataset size with marginal performance variation?
AI 导读
EigDiff 在预训练 CLIP 隐空间做 PCA 得到潜在特征向量,并以其为参考点挑选由 exemplars 与多样化图像组成的代表性训练子集,可将训练数据减少最多 14 倍、子集选择提速最多 1607 倍,性能差异很小。该方法在多个数据集和不同扩散模型上验证,思路是挖掘训练数据本身的冗余,而非只蒸馏扩散步数。
来源:arXiv cs.CV · arxiv.org