图宾根团队提出 RoD：按需回放缓解持续预训练遗忘

图宾根大学与巴塞尔团队（含 Matthias Bethge、Jonathan Richard Schwarz 等）发布 arXiv 论文《Replay on Demand (RoD)》，提出按遗忘动态在线分配回放数据的持续预训练新方法。该方法根据模型的遗忘动态在线分配并回放旧数据，在适应新领域的同时减少对原有能力的遗忘，为持续预训练中「适应新领域与遗忘旧能力」的取舍难题提供新思路。