跳到正文
原文
AGI Hunt· tdietterich·· 23 小时前AI 评分43

LeCun 与 Dietterich 激辩:LLM 是学规律还是核插值

LeCun与Dietterich激辩:LLM是学规律还是核插值

AI 导读

针对 LLM 泛化是学规律还是只做核插值的争论,机器学习元老 Thomas Dietterich 提出理想化泛化标准:给模型一组恒定加速度运动下的 (x,t) 数据,看其能否归纳出 x = ½at² 的普适规律。他在回应 Andrew Wilson 关于泛化未解问题的提问时补充,符号回归早已能归纳此类规律,他真正关心的是神经网络的泛化能力。

来源:AGI Hunt · agihunt.info