跳到正文
原文
arXiv cs.CV· Andrei Jarca, Vlad Hondru, Florinel-Alin Croitoru, Radu Tudor Ionescu·· 4 小时前AI 评分36

EigDiff:用特征样本扩散大幅缩减训练数据集,性能几乎不变

EigDiff: Eigensample Diffusion - or how to significantly reduce training dataset size with marginal performance variation?

AI 导读

EigDiff 在预训练 CLIP 隐空间做 PCA 得到潜在特征向量,并以其为参考点挑选由 exemplars 与多样化图像组成的代表性训练子集,可将训练数据减少最多 14 倍、子集选择提速最多 1607 倍,性能差异很小。该方法在多个数据集和不同扩散模型上验证,思路是挖掘训练数据本身的冗余,而非只蒸馏扩散步数。

来源:arXiv cs.CV · arxiv.org