Terence Tao：LLM 背后的数学并不复杂，真正的谜在能力边界

数学家 Terence Tao 认为 LLM 的构建与运行只依赖线性代数、矩阵运算和基础微积分，数学层面「根本不复杂」。他认为真正的谜团是模型为何在某些任务上翻车、且无法提前预测，目前缺乏能跨领域预测结果的可靠理论框架，发现新能力主要靠实验。他把书面语言类比为纯噪声与完全有序数据间的「中间地带」，称人类对此数学工具有限，难以说清能力的突然跃迁。