arXiv cs.CL· XinYu Piao, Myunghoon Ryu, Joongheon Kim, Jong-Kook Kim·· 2 小时前AI 评分42
SKIM：冻结语言模型的参数内自键控记忆，实现无外部存储的对话召回
Self-Keyed In-Parameter Memorization for External Memory-Free Dialogue Recall in Frozen Language Models
AI 导读
SKIM 是一种闭式方法，让模型为每轮对话自行生成多个不同问法的问题，并把这些问题作为键写入自身参数，之后用户换种问法提问也能仅凭参数召回该轮内容。研究在五个语言模型上评估，SKIM 能从后续用户问题中召回大部分已存储的对话轮次，全程不依赖任何外部存储。该设定假设模型没有外部记忆、也不预先知道未来的问题或答案。
来源：arXiv cs.CL · arxiv.org