跳到正文
原文
AGI Hunt· ericjang11·· 3 小时前AI 评分37

Marin 535B-A23B 开源模型训练过半,Percy Liang 分享心得

AI 导读

Stanford 的 Percy Liang 宣布,Marin 项目的 535B 总参数、23B 激活(MoE)开源模型训练已过半程;团队同步发布训练过程中的观察与经验教训。相关内容详见其博客,对关注开源大模型训练实践的人有参考价值。

来源:AGI Hunt · agihunt.info