矩阵因式分解被指破解信息指数瓶颈

2026年10月1日，AGI Hunt 报道一项研究指出，对矩阵做因式分解（权重绑定 S=WWᵀ）并不只是参数化技巧，而是从根本上改变了梯度流动方式：它消除了一个「信息指数瓶颈」，未分解的模型会被该瓶颈无限期卡住，分解之后梯度则可顺畅传递。该报道以数学推导为主线，解释这类低秩/绑定结构在优化上为何与直觉不同。需要注意，早先报道把该工作表述为「权重矩阵因式分解」，新报道则表述为「注意力矩阵因式分解」，两者在用词上并不一致；报道未给出实验数据或论文出处。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。