arXiv cs.CL· Chaogui Gou·· 3 小时前AI 评分41
从长上下文到选择性记忆:面向大语言模型的以记忆为中心的压缩综述
From Long Context to Selective Memory:A Survey of Memory-Centric Compression for Large Language Models
AI 导读
一篇综述把大语言模型的长上下文压缩重构为推理阶段的记忆管理问题,区分参与计算的「计算活跃记忆」与可存储、检索或遗忘的「计算非活跃记忆」。文章把写入、卸载、召回、检索注入、物化、逐出、整合与遗忘视为信息生命周期中的状态转换,并用统一的预算成本模型同时容纳短期上下文压缩与长期记忆管理。综述还总结评估维度与 benchmark 缺口,主张转向动态、可治理、面向生命周期的记忆管理。
来源:arXiv cs.CL · arxiv.org