跳到正文
热点事件持续更新

WAKMan:负载感知的KV缓存淘汰策略管理器

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月28日,arXiv cs.AI 刊出 WAKMan 的介绍。该工作提出一种负载感知的 KV cache 管理器:它无需识别请求类型,也不读取提示词内容,而是从实时流量中自动选择缓存淘汰策略。报道称,相比常用的 LRU 策略,WAKMan 平均提升 5 个百分点的缓存命中率。目前该工作处于论文发布阶段,报道未披露开源情况以及具体实验设置与验证负载。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv cs.AI
    WAKMan:负载感知的 KV cache 管理器

    WAKMan 是一个负载感知的 KV cache 管理器,无需识别请求类型、也不读取提示词,即可从实时流量中自动选择淘汰策略,相比 LRU 平均提升 5 个百分点的缓存命中率。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。