AGI Hunt· _aidan_clark_·· 4 小时前AI 评分26
前研究员 Aidan Clark:愿「作弊蒸馏」的实验室出好模型更快
前研究员:愿「作弊蒸馏」的实验室出好模型更快
AI 导读
前研究员 Aidan Clark 发推称,预训练的难度从一点上看得非常清楚:愿意通过蒸馏、互相借鉴快速起步的实验室,比坚持完全自建技术栈的实验室更早拿出好模型。他补充「这是对 Microsoft 少见的夸奖」,暗指微软善于借力而非死磕自研。
来源:AGI Hunt · agihunt.info