注意力矩阵因式分解重构梯度流，破除信息指数瓶颈

注意力矩阵因式分解（权重绑定 S=WWᵀ）不只是参数化技巧，而是从根本上改变了梯度流动方式：它消除了一个「信息指数瓶颈」，未分解的模型会被该瓶颈无限期卡住，分解后梯度则可顺畅传递。全文以数学推导为主线，解释了这类低秩/绑定结构在优化上为何与直觉不同。