上海AI Lab等提出在线蒸馏迁移条件

2026年10月12日，AGI Hunt 报道，浙江大学、上海 AI Lab 等机构重新审视在线蒸馏（OPD），研究相对策略差异的迁移条件。研究中以代理专家与代理参考之间的 log-probability 比，定义 KL 正则策略优化的隐式奖励，该设定支持跨规模、跨代迁移。结论指出，更强的专家未必是更好的监督源：来自 RL、SFT 等任务特定训练所产生的差异，其迁移一致有效；而仅由模型规模带来的差异，迁移效果弱甚至无效。报道未给出更多实验细节或后续安排。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。