清华提出 Latent Compaction 压缩 KV 缓存 32 倍

2026 年 10 月 15 日，AGI Hunt 报道，清华 NLP 组提出 Latent Compaction 方法，用于压缩大模型的 KV 缓存。报道称，该方法通过测试时训练（test-time training）学习紧凑的文档级 KV 缓存，在压缩 32 倍的情况下仍保持 96.7% 的检索精度；训练过程全程冻结模型权重，只使用文档的通用提示，不需要访问下游问题与答案。截至该报道，这是关于此项工作的唯一消息，尚无后续进展、复现结果或第三方评测信息，压缩倍数与精度数据均来自报道方转述。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。