arXiv cs.CL· Minsu Oh, Seunghui Jwa, Chanjun Park, Yeo-Chan Yoon·· 4 小时前AI 评分37
评估语言模型的压缩记忆：依赖、效用与内容获益
Evaluating Compressed Memory: Dependence, Utility, and Content Benefit
AI 导读
覆盖九个系统的评估显示，部分语言模型依赖压缩记忆，表现却差于单独训练的无记忆对照模型。在故事状态预测中，置零记忆会恶化预测损失，但无记忆训练的模型损失低于保留完整记忆的原模型。在 TriviaQA 上，给 xRAG 其他问题的段落记忆可把 F1 从 19.38 提到 24.78，该问题自身检索段落为 29.88。
来源：arXiv cs.CL · arxiv.org