跳到正文
原文
AGI Hunt· Xu Wan·· 4 小时前AI 评分35

LSD 在线蒸馏法消解 RL 后训练的「长度税」,减少近 23 个百分点

LSD 在线蒸馏法消解 RL 后训练的「长度税」,减少近 23 个百分点

AI 导读

Length Self-Distillation(LSD)用 on-policy 蒸馏消解 RL 后训练的「长度税」:已解决的 prompt 路由到蒸馏、未解决的保留原 RL 目标,教师模型取在线策略的指数移动平均,无需外部模型。

来源:AGI Hunt · agihunt.info