热点事件持续更新
PaLoRA 用秩自适应调步律缓解 LoRA 持续学习遗忘
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
2026 年 10 月 6 日的报道介绍,PaLoRA 针对 LoRA 持续学习中的灾难性遗忘提出一套理论化方案。研究推导出最优调步律 s = R/c,使幅度限制随历史知识有效秩 R 自适应增强。方法实现上用自适应 SVD 截断压缩历史知识,把梯度投影到先前任务的零空间,并施加秩感知的自适应 pacing。报道称,在 50 任务的 ImageNet-A 与 ImageNet-R 上,PaLoRA 的表现一致优于先前方法,长程设置下准确率提升达 4%。目前公开信息即上述方法与基准结果,报道未提及更多实验设置或与其他路线的对比细节。
AI 根据报道生成 · 2 小时前更新
最新进展10月6日 11:17
PaLoRA 以秩自适应调步律抑制遗忘,50 任务长程基准准确率提升达 4%。报道时间线
沿着报道,了解事件的不同侧面。
10月6日
- AGI HuntPaLoRA:按历史知识有效秩自适应调节学习率,持续学习 50 任务基准提升 4%
PaLoRA 针对 LoRA 持续学习中的灾难性遗忘提出理论化方案,推导出最优调步律 s = R/c,使幅度限制随历史知识有效秩 R 自适应增强。方法用自适应 SVD 截断压缩历史知识,把梯度投影到先前任务零空间,并施加秩感知的自适应 pacing。在 50 任务的 ImageNet-A 与 ImageNet-R 上,其表现一致优于先前方法,长程设置准确率提升达 4%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。