Base Labs研究：模型迭代学习新事实后被覆盖遗忘

2026年10月，Base Labs 在新一期周报 Rollout 中研究模型为何会遗忘迭代学习获得的事实。实验基于仅用 1931 年前文本训练的 13B 模型 talkie。结果显示：向模型依次写入 20 个新事实后，早期写入的事实会被后续事实覆盖丢失；单独写入时召回率接近 100%，20 条全部写入后整体召回率大幅下滑。此外，写入位置越靠中间（6–10、11–15）遗忘越严重，最早与最晚位置的事实保留较好。目前该研究仍处于周报披露阶段，尚未见进一步的改进方案或后续实验结论。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。