跳到正文
原文
AGI Hunt· jingdong1·· 2 小时前AI 评分31

南京大学与京东提出 Road MOPD,多教师蒸馏梯度冲突下提升超 5 个百分点

南大与京东提出 Road MOPD,多教师蒸馏梯度冲突下提升 5 个百分点

AI 导读

南京大学与京东提出 Road MOPD(Cross-Teacher Guarding),解决多教师在线蒸馏(MOPD)中所有领域更新共享参数时的持续梯度冲突问题。

来源:AGI Hunt · agihunt.info