跳到正文
原文
AGI Hunt· bigaiguy·· 5 小时前AI 评分33

从 Kaggle 冠军到 ULMFiT:Jeremy Howard 如何改写语言模型训练范式

AI 导读

Jeremy Howard 与 Sebastian Ruder 于 2018 年 1 月发表 ULMFiT,先在大规模通用文本上预训练语言模型、再针对具体任务微调,在多数测试数据集上把错误率降低 18%–24%,仅用 100 条标注样本就能追平用 100 倍数据从头训练的模型。

来源:AGI Hunt · agihunt.info