LIFT 架构让 Transformer 实现深层向浅层反馈，训练仍可完全并行

研究者提出 Latent Information Feedback Transformers（LIFT）架构，让 Transformer 的深层能够直接向浅层反馈信息。标准语言模型中信息只能通过解码出的 token 从高层向低层传播，LIFT 通过潜在信息反馈机制突破这一瓶颈。该架构的训练过程仍可完全并行，不损失并行化优势。