跳到正文
原文
AGI Hunt· GroqLLC·· 3 小时前精选AI 评分76

Meta 开源 816B 参数 Muse Spark Open,Groq 预览跑出 350+ tokens/秒

AI 导读

Meta 开源 816B 参数的稀疏 MoE 模型 Muse Spark Open,每 token 激活约 42B,Groq 同步在 GroqCloud 开启限量预览,单用户推理速度超 350 tokens/秒。

推荐理由

816B 稀疏 MoE 的规格与多家推理框架的首日支持并列,可据此判断开源大模型的部署门槛。

来源:AGI Hunt · agihunt.info