跳到正文
热点事件持续更新

KV-Repurpose:非前缀KV缓存复用评测系统

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026 年 10 月 12 日,arXiv cs.CL 刊出 KV-Repurpose,这是一个基于 vLLM 的开源系统,用于评估精确前缀之外的按段 KV-cache 复用。据该报道,在 20% 请求共享固定前缀的 Zipfian RAG 负载下,30 GB 缓存时 token 级命中率为 63.9%,而前缀缓存仅 3.3%,且 TTFT 更低。长上下文基准显示,段复用基本保持单文档问答与摘要质量,但跨文档推理明显受限。这是目前该事件唯一一条报道,尚无后续进展或其他来源的对比数据。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv cs.CL
    KV-Repurpose:评估非前缀 KV-Cache 复用的测试平台

    KV-Repurpose 是基于 vLLM 的开源系统,用于评估精确前缀之外的按段 KV-cache 复用。在 20% 请求共享固定前缀的 Zipfian RAG 负载下,30 GB 缓存时 token 级命中率为 63.9%,前缀缓存仅 3.3%,TTFT 更低。长上下文基准显示,段复用基本保持单文档问答与摘要质量,跨文档推理明显受限。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。