AGI Hunt· burkov·· 3 小时前AI 评分32
Burkov 介绍首个形式化理论:mid-training 如何塑造 RL 后训练效果
首个形式化理论:mid-training 如何塑造 RL 后训练效果
AI 导读
一项新工作建立首个形式化理论框架,解释 mid-training(RL 后训练前对专家演示做继续预训练)如何影响下游强化学习。该理论指出,标准 mid-training 用 next-token prediction 将每个 token 当独立决策,决策空间巨大、规划视野长,影响机制不清晰且开销大。
来源:AGI Hunt · agihunt.info