跳到正文
热点事件持续更新

PaLoRA 用秩自适应调步律缓解 LoRA 持续学习遗忘

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

2026 年 10 月 6 日的报道介绍,PaLoRA 针对 LoRA 持续学习中的灾难性遗忘提出一套理论化方案。研究推导出最优调步律 s = R/c,使幅度限制随历史知识有效秩 R 自适应增强。方法实现上用自适应 SVD 截断压缩历史知识,把梯度投影到先前任务的零空间,并施加秩感知的自适应 pacing。报道称,在 50 任务的 ImageNet-A 与 ImageNet-R 上,PaLoRA 的表现一致优于先前方法,长程设置下准确率提升达 4%。目前公开信息即上述方法与基准结果,报道未提及更多实验设置或与其他路线的对比细节。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月6日
  1. AGI Hunt
    PaLoRA:按历史知识有效秩自适应调节学习率,持续学习 50 任务基准提升 4%

    PaLoRA 针对 LoRA 持续学习中的灾难性遗忘提出理论化方案,推导出最优调步律 s = R/c,使幅度限制随历史知识有效秩 R 自适应增强。方法用自适应 SVD 截断压缩历史知识,把梯度投影到先前任务零空间,并施加秩感知的自适应 pacing。在 50 任务的 ImageNet-A 与 ImageNet-R 上,其表现一致优于先前方法,长程设置准确率提升达 4%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。