记忆到底存在哪：RNN、Transformer 与 SSM 的工作记忆对比

研究者从「工作记忆存在哪里」的角度重新对比 RNN、Transformer、SSM/Mamba 与 BDH 四种架构。RNN 把记忆压缩在递归隐藏状态，参数量约 O(N²) 而跨时间状态仅 O(N)；Transformer 把过去表示存为 KV 缓存做注意力，权重在推理期冻结，形成「固定权重 + 快变 KV 缓存」的分裂。