跳到正文
热点事件持续更新

LORE-KV:免训练的KV缓存淘汰方法

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月7日,arXiv cs.CL 刊出 LORE-KV,一种免训练的 KV Cache 淘汰方法。它利用短自回归续写得到的响应侧 query 状态来估计 token 效用,据此进行缓存淘汰,无需额外训练。实验显示,在预算 B=128 时,Qwen2.5-14B 在 LongBench 上的平均分由 45.49 升至 48.24;Mistral-7B 在 16K RULER 上由 45.20 升至 51.05。开销方面,该方法的单样本耗时为 AnDPro 的 1.46–2.77 倍;报道同时指出,在更大预算下收益递减,并存在任务级回退。目前仅见该篇论文报道,尚无后续进展。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月7日
  1. arXiv cs.CL
    Monte Carlo 估计用于 KV Cache 淘汰:免训练的 LORE-KV 方法

    LORE-KV 是免训练的 KV Cache 淘汰方法,用短自回归续写的响应侧 query 状态估计 token 效用。B=128 时,Qwen2.5-14B 的 LongBench 平均分由 45.49 升至 48.24,Mistral-7B 的 16K RULER 由 45.20 升至 51.05。开销为 AnDPro 单样本耗时的 1.46-2.77x,更大预算下收益递减并存在任务级回退。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。