一个模型两条路径：语言模型如何平衡单遍与循环推理性能

重复 Transformer 层可在不增加参数的情况下提升语言模型性能，但共享权重的单遍与循环推理路径会相互牵制。研究采用加权损失的联合训练并以冻结的原始模型引导，显著减轻单遍性能退化，同时保留循环推理相对普通继续训练的增益，收益主要来自调整单遍损失权重。按验证集选定权重后，单遍质量保持在预设容差内。