热点事件持续更新
LORE-KV:免训练的KV缓存淘汰方法
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月7日,arXiv cs.CL 刊出 LORE-KV,一种免训练的 KV Cache 淘汰方法。它利用短自回归续写得到的响应侧 query 状态来估计 token 效用,据此进行缓存淘汰,无需额外训练。实验显示,在预算 B=128 时,Qwen2.5-14B 在 LongBench 上的平均分由 45.49 升至 48.24;Mistral-7B 在 16K RULER 上由 45.20 升至 51.05。开销方面,该方法的单样本耗时为 AnDPro 的 1.46–2.77 倍;报道同时指出,在更大预算下收益递减,并存在任务级回退。目前仅见该篇论文报道,尚无后续进展。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月7日
- arXiv cs.CLMonte Carlo 估计用于 KV Cache 淘汰:免训练的 LORE-KV 方法
LORE-KV 是免训练的 KV Cache 淘汰方法,用短自回归续写的响应侧 query 状态估计 token 效用。B=128 时,Qwen2.5-14B 的 LongBench 平均分由 45.49 升至 48.24,Mistral-7B 的 16K RULER 由 45.20 升至 51.05。开销为 AnDPro 单样本耗时的 1.46-2.77x,更大预算下收益递减并存在任务级回退。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。