UIUC 新论文用 Fisher 信息解释 LLM 后训练参数更新为何稀疏

UIUC 研究者 Yufan Zhang、Sagnik Mukherjee、Hao Peng 的新论文从 Fisher 信息视角解释 LLM 后训练阶段参数更新为何如此稀疏。工作将理论分析与 RL、SFT、on-policy 蒸馏三种范式下的实验发现打通，说明哪些参数在微调中真正被改动及其原因。该结果对理解后训练动力学与高效微调有参考价值。