跳到正文
原文
arXiv cs.CL· Jingpu Yang, Tianhao Li, Fengxian Ji, Yufeng Wang, Shuxin Zheng, Xiaoqing Zhang·· 2 小时前AI 评分35

CAMR:面向大语言模型持续学习的兼容性感知记忆回放

CAMR: Compatibility-Aware Memory Replay for Continual Learning in Large Language Models

AI 导读

CAMR 是一种面向大语言模型持续学习的自适应框架,用兼容性检查与学习到的记忆门控构成在线策略,决定学习新样本、联合强化兼容样本,还是跳过已验证掌握的重复样本。在 Qwen3-8B-Base 上,它在 WikiBigEdit 从 3K 到 100K facts 的 Original Match 中持续领先,3K facts 后达到 93.66%,并在 TRACE 四项任务上取得最高最终分数。

来源:arXiv cs.CL · arxiv.org