跳到正文
原文
AGI Hunt· SchmidhuberAI·· 4 小时前AI 评分35

Schmidhuber 称 1991 年论文已提出 LLM 三大关键技术

AI 导读

Jürgen Schmidhuber 重申其 1991 年论文《Neural sequence chunkers》最早引入三项 LLM 基石技术:深度神经网络预训练(即 ChatGPT 的 "P")、位置编码与神经网络知识蒸馏。论文 1992 年发表于 Neural Computation,帖中附原文与综述链接。

来源:AGI Hunt · agihunt.info