AGI Hunt· ZimingLiu11·· 2 小时前AI 评分38
Maxним 实验室 Ziming Liu 发现 Forking 训练现象:训练损失下降、验证损失反升
研究者发现「Forking」现象:训练损失下降验证损失反升
AI 导读
Maxним 实验室 Ziming Liu(与 MetaCircleAI)报告发现 Forking 训练现象:数据回放时训练损失持续下降,验证损失反而上升。该现象出现在 over-encoding 类方法中,由 AutoResearch 发现的技巧被错误泛化导致,类似 DeepSeek v4.1 的 Engram 记忆技巧。
来源:AGI Hunt · agihunt.info