讨论热辩：共现统计是 LLM 与 Transformer 的数学基石

10 月 4 日，作者 gerardsans 连续发帖拆解大语言模型工作原理，将其归纳为嵌入生成、自回归循环等三层机制，指出训练机制决定的 token 配置构成模型对语言的基础表示。另一篇回应称，共现统计虽非全部图景，却是这套架构的必备要素：权重与偏置本质上是梯度下降在语料上压缩出的分布，共现是其赖以成立的数学框架。