IFM 研究循环语言模型不动点特性：KV 缓存缩小 3 倍不掉分

IFM 研究循环语言模型的不动点特性：状态越接近不动点，到达路径越不重要，解码可共享终态 KV 且几乎不掉分。预填充用蒸馏学生模型最高提速 1.79 倍，RL 从保存的 rollout 状态计算梯度比沿轨迹回传快 2 倍。从 100M 到 1.6B，学习先验与正交注入均降低困惑度；1.6B 下用 3 倍小的 KV 缓存即可匹配全缓存固定深度训练的下游平均分。