AGI Hunt· Xu Wan·· 4 小时前AI 评分35
LSD 在线蒸馏法消解 RL 后训练的「长度税」,减少近 23 个百分点
LSD 在线蒸馏法消解 RL 后训练的「长度税」,减少近 23 个百分点
AI 导读
Length Self-Distillation(LSD)用 on-policy 蒸馏消解 RL 后训练的「长度税」:已解决的 prompt 路由到蒸馏、未解决的保留原 RL 目标,教师模型取在线策略的指数移动平均,无需外部模型。
来源:AGI Hunt · agihunt.info