AGI Hunt· SchmidhuberAI·· 4 小时前AI 评分35
Schmidhuber 称 1991 年论文已提出 LLM 三大关键技术
AI 导读
Jürgen Schmidhuber 重申其 1991 年论文《Neural sequence chunkers》最早引入三项 LLM 基石技术:深度神经网络预训练(即 ChatGPT 的 "P")、位置编码与神经网络知识蒸馏。论文 1992 年发表于 Neural Computation,帖中附原文与综述链接。
来源:AGI Hunt · agihunt.info