从权重范数几何理解 MuonH：尺度不变网络中梯度垂直于权重

MuonH（Hyperball）的有效性可从权重范数几何理解：网络具备尺度不变性时，权重乘以正常数不改变输出和损失，梯度始终垂直于权重方向。这一视角也解释了 Muon 类优化器如何与归一化层协作。@xuhengli 指出 RMSNorm/LayerNorm 正是靠让网络尺度不变改变训练动力学，其团队正研究归一化层、MuP、Adam/Muon 等尺度控制方法如何协同。