从权重范数几何视角解读 MuonH 优化器原理

miyashita03 发布文章，从权重范数几何视角解读 MuonH（Hyperball）优化器原理。当网络具备尺度不变性时，将权重乘以正常数不改变输出与损失，此时梯度与权重垂直；这一几何性质可更直观地解释 MuonH 的优化行为。