跳到正文
原文
AGI Hunt· peterjliu·· 2 小时前AI 评分21

scaling 思想源头:Ilya Sutskever 2014 年 NeurIPS 演讲金句重现

scaling 思想源头:Ilya 2014 年 NeurIPS 演讲金句重现

AI 导读

peterjliu 回顾 scaling 思想的历史脉络,认为在 Noam Shazeer 之前,用神经网络做语言任务并真正大规模扩展的起点,是 Ilya Sutskever 在 NeurIPS 2014 上的 sequence-to-sequence 演讲。其中那句「如果你有一个很大的数据集,并且训练一个很大的神经网络,那么成功就是保证的!」被视为 scaling 路线的早期宣言。

来源:AGI Hunt · agihunt.info