跳到正文
热点事件持续更新

研究者:Transformer 内部状态被多次压缩

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月1日,AGI Hunt 报道,有研究者指出,Transformer 在每轮前向传播中算出的内部状态,有相当一部分不会存入 K/V 缓存,而是在整个 forward pass 中被多次丢弃或压缩。报道称,这一说法挑战了「K/V 缓存等于模型记忆」的常见直觉,并暗示模型每步推理中的大量中间计算不可恢复。该报道未披露研究者的具体身份、所涉模型以及相关实验细节,目前公开信息仅为此一条,尚无后续回应或补充说明。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月1日
  1. AGI Hunt
    研究者指出 Transformer 内部状态多次被压缩,K/V 缓存并非完整记忆

    研究者指出,Transformer 每轮前向传播中算出的内部状态有相当一部分不会存入 K/V 缓存,而是在整个 forward pass 中被多次丢弃或压缩。这挑战了「K/V 缓存等于模型记忆」的常见直觉,暗示模型每步推理中的大量中间计算不可恢复。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。