跳到正文
原文
AGI Hunt· AaronBergman18·· 4 小时前AI 评分29

「该有人发明让 LLM 学会人类写作分布的训练目标」引群嘲:预训练本就在做这件事

「该有人发明让 LLM 学会人类写作分布的目标了」遭群嘲

AI 导读

一条呼吁为 LLM 发明训练目标、让模型逼近人类写作分布(甚至可在 post-training 之前做)的帖子在 AI 圈被当作段子传播。原因在于 next-token prediction 预训练本就是在拟合人类文本分布,所谓「发明」恰恰就是整个范式本身,发帖者把既有路径当成新思路的反差构成了笑点。

来源:AGI Hunt · agihunt.info