vtabbott 分享：从抽象表示直接推导 KV-cache 位置，prefill 与推理形式可互通

vtabbott 提出可以从抽象表示直接推导出 KV-cache 应放在哪里以得到推理形式，prefill 与推理之间存在可表达的关系。配图用右上角符号在两种模式间切换，展示同一抽象表示如何同时覆盖训练/预填充与推理两种形态。这被视为对 Transformer 推理优化中 KV-cache 机制的形式化理解，说明好的抽象层能让推理优化从手工技巧变成可推导结论。