新论文：按梯度范数排序注意力头，稀疏 RL 微调媲美全量训练

一篇 arXiv 论文提出按梯度范数对注意力头排序，只训练排名靠前的小部分头即可有效完成稀疏 RL 微调，并理论证明了梯度范数与训练有效性的关联。在数学、指令遵循和编码任务上，调优高排名头持续优于低排名头，且往往与全量微调基线持平。将注意力头按任务划分还可减少跨任务干扰，在保留旧能力的同时维持新任务适应性。