跳到正文
原文
AGI Hunt· ZimingLiu11·· 2 小时前AI 评分38

Maxним 实验室 Ziming Liu 发现 Forking 训练现象:训练损失下降、验证损失反升

研究者发现「Forking」现象:训练损失下降验证损失反升

AI 导读

Maxним 实验室 Ziming Liu(与 MetaCircleAI)报告发现 Forking 训练现象:数据回放时训练损失持续下降,验证损失反而上升。该现象出现在 over-encoding 类方法中,由 AutoResearch 发现的技巧被错误泛化导致,类似 DeepSeek v4.1 的 Engram 记忆技巧。

来源:AGI Hunt · agihunt.info