Partial RoPE 研究：仅旋转 10% 维度即可逼近全 RoPE 收敛

EMNLP 2026 的 Partial RoPE 研究显示，仅旋转约 10% 维度即可达到与全 RoPE 相近的收敛损失带，RoPE cache 最高缩小 10 倍。团队从零预训练 55 个 1B 与 8B 模型，覆盖 0–100% 旋转比例，并发现 NoPE 会破坏训练稳定性。LAMBDA 困惑度上，10% 为 11.86±0.39，100% 为 11.78±0.39。