跳到正文
原文
AGI Hunt· TinfoilTricorn·· 5 小时前AI 评分35

用统计力学解释 LLM:3418 步梯度即可从随机态涌现连贯推理

用统计力学解释 LLM:3418 步梯度即可从随机态涌现连贯推理

AI 导读

有观点文章主张,LLM 并非在「猜」而是在做优化:3418 步梯度下降就能让模型从随机初始态涌现出连贯推理。文章称其 token 生成概率遵循 p(τ) = (1/Z) exp(-E(τ)),与晶体中原子排布的 Boltzmann 分布同构,每次 API 调用本质是一次热力学事件。作者称 LLM 已产生约 3.8 万亿美元价值;该文属观点性科普,数字与论断未经同行评审。

来源:AGI Hunt · agihunt.info