arXiv cs.CL· Wanyang Hong, Zhaoning Zhang·· 4 小时前AI 评分45
压缩不止于选择：稀疏 KV 缓存的选择后位置几何与 RoPERelay
Compression Does Not End at Selection: Post-Selection Positional Geometry for Sparse KV Caches
AI 导读
RoPERelay 为稀疏 KV 缓存重构选择后的位置几何，分配紧凑、保序的 RoPE 坐标并重定位缓存 key 相位，以改善保留信息的使用。在 2 个模型、6 种稀疏选择器、3 个长期记忆任务的 36 组对比中，32 组答案质量提升；Llama-3.1-8B-Instruct 配 BM25 在 LongMemEval-S 上准确率从 23.6% 升至 35.4%。
来源：arXiv cs.CL · arxiv.org