跳到正文
原文
Hugging Face Blog·· 21 小时前精选AI 评分81

Meta 开源多模态 MoE 模型 Muse Spark Open,约 816B 参数、1M 上下文

Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta

AI 导读

Meta 发布开源权重多模态 MoE 模型 Muse Spark Open,总参数约 816B、每 token 激活约 42B,上下文窗口最高 1M token。

推荐理由

正文给出该模型从 llama.cpp、vLLM 到 TRL 微调的实测配方,可据此估算 816B 开源模型本地与云端运行成本。

来源:Hugging Face Blog · huggingface.co