新论文《Data Schedules and Learning Rate Schedules Should Be Designed Together》：数据课程与学习率调度应协同设计

10 月 27 日发布的新论文《Data Schedules and Learning Rate Schedules Should Be Designed Together》指出，数据课程与学习率调度不应孤立设计，而应协同优化。研究发现，数学数据放在训练前段还是末段，最优策略会随学习率调度翻转：在余弦、WSD 等不同调度下结论截然相反。作者据此主张二者协同设计以提升模型最终性能。