arXiv cs.AI· Suorong Yang, Jiaxin Wang, Jiaming Su, Chentao Yue, Furao Shen, Peng Ye, Soujanya Poria·· 4 小时前AI 评分44
以更少训练学得更多：面向高效推理后训练的不确定性引导渐进收缩框架
Learning More by Training Less: Uncertainty-Guided Progressive Contraction for Efficient Reasoning Post-Training
AI 导读
不确定性引导的渐进收缩框架将推理后训练监督集中到最有学习价值的推理轨迹，仅需全量数据 SFT 的 0.22% 优化预算、训练曝光减少超 450 倍，仍保持或提升推理性能。该方法用蒙特卡洛推理树暴露过程级不确定性，先收缩为教师知情数据池，再在 SFT 中按学生模型学习状态在线路由，并可泛化到异构学生模型、黑盒教师与弱到强迁移。
来源：arXiv cs.AI · arxiv.org