南大腾讯研究：OPD 中 prompt 数量与来源的迁移影响

南京大学与腾讯 LLM 部门围绕 on-policy distillation（OPD）中 prompt 数量与来源的影响展开研究。2026 年 10 月 14 日 AGI Hunt 报道了该研究结果：在 OPD 中，仅使用 4 条 DAPO prompt，数学成绩即可达到使用 3840 条 DeepMath prompt 的水平，显示 prompt 数量并非决定效果的关键因素。报道称，prompt 的效用取决于师生模型组合，仅仅更换教师模型，就可能让数学与代码 prompt 的相对效果发生反转；研究还发现，定向选择 prompt 并未稳定优于均匀随机采样。此外，在有效支持集上继续进行 OPD，可以恢复出现不利迁移后的性能。上述结论均为该篇报道所陈述的研究发现，报道未给出更多实验细节，也未提及此前是否存在不同说法或数据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。