Marin 535B MoE 训练跑出 27% MFU，专家并行方案全复盘

Marin 团队复盘其 535B 参数 MoE hero run 如何在 11 台 NVL72 机架上跑到约 27% MFU。专家并行（EP）让总参数从原计划 360B 扩大约 50% 至 535B，每 token 激活约 23B；自研 fixed-capacity EP kernel 下 MFU 21.5%，token-expert 分配丢弃率 3.4%。