AGI Hunt· TinfoilTricorn·· 5 小时前AI 评分35
用统计力学解释 LLM:3418 步梯度即可从随机态涌现连贯推理
用统计力学解释 LLM:3418 步梯度即可从随机态涌现连贯推理
AI 导读
有观点文章主张,LLM 并非在「猜」而是在做优化:3418 步梯度下降就能让模型从随机初始态涌现出连贯推理。文章称其 token 生成概率遵循 p(τ) = (1/Z) exp(-E(τ)),与晶体中原子排布的 Boltzmann 分布同构,每次 API 调用本质是一次热力学事件。作者称 LLM 已产生约 3.8 万亿美元价值;该文属观点性科普,数字与论断未经同行评审。
来源:AGI Hunt · agihunt.info