热点事件持续更新
研究者:Transformer 内部状态被多次压缩
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月1日,AGI Hunt 报道,有研究者指出,Transformer 在每轮前向传播中算出的内部状态,有相当一部分不会存入 K/V 缓存,而是在整个 forward pass 中被多次丢弃或压缩。报道称,这一说法挑战了「K/V 缓存等于模型记忆」的常见直觉,并暗示模型每步推理中的大量中间计算不可恢复。该报道未披露研究者的具体身份、所涉模型以及相关实验细节,目前公开信息仅为此一条,尚无后续回应或补充说明。
AI 根据报道生成 · 1 小时前更新
最新进展10月1日 07:32
研究者称 K/V 缓存并非完整记忆,前向传播中内部状态被多次压缩或丢弃。报道时间线
沿着报道,了解事件的不同侧面。
10月1日
- AGI Hunt研究者指出 Transformer 内部状态多次被压缩,K/V 缓存并非完整记忆
研究者指出,Transformer 每轮前向传播中算出的内部状态有相当一部分不会存入 K/V 缓存,而是在整个 forward pass 中被多次丢弃或压缩。这挑战了「K/V 缓存等于模型记忆」的常见直觉,暗示模型每步推理中的大量中间计算不可恢复。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。