跳到正文
原文
AGI Hunt· micahgoldblum·· 2 小时前AI 评分39

新 RL 框架 Exploration-Distillation:让 LLM 训练敢于激进探索

新RL框架Exploration-Distillation:让LLM训练敢于激进探索

AI 导读

研究者 Micah Goldblum 发布 Exploration-Distillation 强化学习框架,目标是解锁 LLM 在 RL 阶段的激进探索能力,性能大幅超越 DAPO 等标准算法。其核心观察是 RLVR 中的 LLM 已经过预训练,奖励只监督模型知识的极小部分,现有算法因此难以让模型在 RL 中真正发现新知识。该框架还能防止 RL 中通用能力退化,在匹配时间下优于 RND。

来源:AGI Hunt · agihunt.info