arXiv cs.CV· Albert Ge, Akash Haridas, Utkarsh Saxena, Ruijing Yang, Ian Colbert, Frederic Sala, Vikram Appia, Emad Barsoum·· 3 小时前AI 评分38
CORAL-KV:面向自回归视频 KV 缓存的紧凑跨层预测与残差编码
CORAL-KV: Compact Cross-Layer Prediction and Residual Coding for Autoregressive Video KV Caches
AI 导读
CORAL-KV 利用视频模型 KV 缓存层间的强依赖,用紧凑的 block-DPLR 预测器跨层预测 key 与 value,再量化预测残差以压缩缓存。在 HY-WorldPlay 与 MAGI-1 上,其可复用配置较 QVG-4 的 PSNR 分别高 0.32 dB 和 4.95 dB,缓存内存少 48% 和 37%。
来源:arXiv cs.CV · arxiv.org