跳到正文
热点事件持续更新

LSL 后训练框架实现免旧数据持续学习

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

2026年10月2日,AGI Hunt 报道了 arXiv 论文 Local Support Learning(LSL)。该工作提出一种通用后训练框架,在参数规模最高 7B 的大语言模型上,无需访问任何先前数据即可学习新任务,同时保留旧有能力。方法层面,LSL 采用照常训练的权重适配器,并配合高斯混合模型(GMM)门控,使参数更新只在该适配器训练分布所对应的输入激活上开启。实验显示,该方法内存与计算开销较小,对超参数选择较为鲁棒,并具有 scaling 潜力。报道称论文与代码均已公开。截至该报道,尚无更多后续进展。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月2日
  1. AGI Hunt
    Local Support Learning:7B 模型免旧数据也能边学新任务边防遗忘

    arXiv 论文 Local Support Learning(LSL)提出通用后训练框架,在最高 7B 参数的 LLM 上不访问任何先前数据即可学习新任务并保留旧能力。它用照常训练的权重适配器配合高斯混合模型(GMM)门控,让更新只在该适配器训练分布的输入激活上开启。实验显示该方法内存与计算开销小、对超参数选择鲁棒并具 scaling 潜力,论文与代码均已公开。

本事件热度走势

当前热度 9·可比范围峰值 10(10月2日 23:00)·近 24 小时可比范围变化 –

02.557.51010月2日23:0010月3日00:0010月3日00:0010月3日01:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。