热点事件持续更新
机器遗忘方法结论随学习率反转
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026 年 10 月 17 日,一项机器遗忘方法对比研究指出:若用统一配置比较不同遗忘方法,会得出相反结论。学习率 lr=1e-5 时 RMU 优于 KL Min(12.1 对 −1.0),而 lr=5e-5 时二者结果反转(17.9 对 34.0)。研究还发现,许多未调参的配置落在 y=x 线上,即清除保留知识的速度与清除目标知识一样快,说明这些配置并未真正实现“只忘目标、不伤保留”。作者进一步从理论上形式化:对微调获得的知识存在零成本修复方式(回滚原始权重),而对预训练知识,任何成功的遗忘都会对保留知识带来严格为正的代价。
AI 根据报道生成 · 3 小时前更新
最新进展10月17日 04:19
新对比研究显示,统一配置下机器遗忘方法优劣会随学习率反转,未调参配置难以只忘目标。报道时间线
沿着报道,了解事件的不同侧面。
10月17日
- AGI Hunt机器遗忘方法对比:超参一换结论反转,lr=1e-5 时 RMU 胜、lr=5e-5 时 KL Min 胜
用统一配置对比机器遗忘方法会得出相反结论:lr=1e-5 时 RMU 优于 KL Min(12.1 vs −1.0),lr=5e-5 时二者反转(17.9 vs 34.0)。许多未调参的配置落在 y=x 线上,清除保留知识的速度与清除目标知识一样快。作者还从理论上形式化:微调知识存在零成本修复(回滚原始权重),预训练知识在任何成功遗忘下都对保留知识有严格为正的代价。
本事件热度走势
当前热度 9·可比范围峰值 10(10月17日 05:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。