热点事件持续更新
KV-Repurpose:非前缀KV缓存复用评测系统
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026 年 10 月 12 日,arXiv cs.CL 刊出 KV-Repurpose,这是一个基于 vLLM 的开源系统,用于评估精确前缀之外的按段 KV-cache 复用。据该报道,在 20% 请求共享固定前缀的 Zipfian RAG 负载下,30 GB 缓存时 token 级命中率为 63.9%,而前缀缓存仅 3.3%,且 TTFT 更低。长上下文基准显示,段复用基本保持单文档问答与摘要质量,但跨文档推理明显受限。这是目前该事件唯一一条报道,尚无后续进展或其他来源的对比数据。
AI 根据报道生成 · 2 小时前更新
最新进展10月12日 12:00
KV-Repurpose 发布:段级 KV 复用 token 命中率 63.9%,远超前缀缓存的 3.3%。报道时间线
沿着报道,了解事件的不同侧面。
10月12日
- arXiv cs.CLKV-Repurpose:评估非前缀 KV-Cache 复用的测试平台
KV-Repurpose 是基于 vLLM 的开源系统,用于评估精确前缀之外的按段 KV-cache 复用。在 20% 请求共享固定前缀的 Zipfian RAG 负载下,30 GB 缓存时 token 级命中率为 63.9%,前缀缓存仅 3.3%,TTFT 更低。长上下文基准显示,段复用基本保持单文档问答与摘要质量,跨文档推理明显受限。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。