MIT 团队从 AutoResearch 异常曲线中挖出「forking」过拟合现象

MIT 研究者 Ziming Liu 团队把 AutoResearch agent 自动实验跑出的叉形曲线整理成新论文，提出「forking」过拟合现象。该现象表现为训练损失下降、验证损失突然反向上升，由搜索到的训练技巧在 over-encoding 等设定下被错误泛化引发。Ziming Liu 借此批评 AutoResearch 缺乏机制理解、只是盲目搜参，并认为失败产出也可当作研究素材。