跳到正文
原文
AGI Hunt· msharmas·· 3 小时前AI 评分48

Fuellabs 两人小队用 304 GPU 时训出 HobbyLM,算力仅为同级 1/100-1/400

两人小队 304 GPU 时训出 HobbyLM,算力仅为同级 1/100-1/400

AI 导读

Fuellabs 两人团队(无研究实验室)从零训练并发布稀疏 MoE 模型 HobbyLM,总参数 1.037B,每 token 激活约 305M。

来源:AGI Hunt · agihunt.info