独立开发者约2000美元训练Apex-2 MoE模型

独立开发者以约 2,000 美元预算从零训练 MoE 模型 Apex-2。2026 年 10 月 5 日的新报道称，训练改用两个 GH200 实例，费用为每卡每小时 2.29 美元，并采用 DiLoCo 分布式训练，每 350 步合并一次模型，速度约为单卡的 1.9 倍。报道还提及 57% 重复数据的教训。该报道补充了此前事件中未披露的硬件配置与训练方法细节。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。