arXiv cs.CV· Xinrui Lin, Shumin Wang, Suqi Song, Fan Li, Yanyong Zhang·· 3 小时前AI 评分36
FocusOPD：面向扩散模型的结构引导在线策略蒸馏
FocusOPD: Structure-Guided On-Policy Distillation for Diffusion Models
AI 导读
FocusOPD 将 token 级方向性特征对齐限制在深层 Transformer 块与早期去噪步，在基础 OPD 目标上改进扩散模型的在线策略蒸馏。其分析显示，教师-学生特征错配集中在早期去噪的深层块，且在 OPD 蒸馏后仍存在。
来源：arXiv cs.CV · arxiv.org