跳到正文
原文
AGI Hunt· alex_verem·· 3 小时前AI 评分32

Chinchilla 论文:更小模型喂更多数据,反超 GPT-3 级巨兽

Chinchilla 论文:更小模型喂更多数据,反超 GPT-3 级巨兽

AI 导读

DeepMind 的 Chinchilla 论文发现,算力最优训练下模型规模与训练 token 数应等比扩展:模型翻倍、数据也该翻倍。

来源:AGI Hunt · agihunt.info