首尔大学提出 PN-Mix 混合精度 KV 缓存量化，低比特下保住精度

首尔国立大学发布论文 PN-Mix，提出基于 query-key 范数的混合精度 key 缓存量化方法，缓解长输出 LLM 推理中的 KV 缓存内存与带宽瓶颈。该方法在 RoPE 通道对层面通过注意力 logit 扰动分析识别关键通道，并对重要通道分配更高精度。在 2-bit 等低比特量化下，PN-Mix 仍保持较强准确率。