跳到正文
原文
AGI Hunt· mangahomanga·· 3 小时前AI 评分31

SCOUT 让教师模型适配学生前缀,修复 on-policy 蒸馏的监督失真

AI 导读

SCOUT(Student-COnditioned Updates of the Teacher)让学生模型与教师模型一起学习,教师依据学生的前缀进行适配,从而在陌生的学生路径上保持可靠监督。该方法针对 on-policy distillation(OPD)的「教师问题」:教师需对自己很少走到的路径给出反馈,随着路径变长,即使强教师的 token 级监督也变得不可靠。

来源:AGI Hunt · agihunt.info