热点事件持续更新
斯坦福 Marin 535B MoE 开源预训练进度超80%
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月26日，AGI Hunt 报道，由斯坦福 Percy Liang 与 David Hall 主导的完全开放科学项目 Marin 宣布，其 MoE 模型预训练进度已超过 80%。该模型总参数 535B、激活参数 23B。团队称训练全程在公开环境下进行，并同步放出了训练 loss 与自家的 scaling-law 数据；此外，模型在从 4K 到 16K 的上下文切换过程中出现了损失骤降现象。报道未提及模型的具体发布时间、剩余训练计划及评测结果。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 06:40
Marin 宣布 535B MoE 预训练进度超80%，并公开 loss 与 scaling-law 数据。报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- AGI Hunt斯坦福 Marin 开源项目 535B MoE 模型预训练进度超 80%
斯坦福 Percy Liang 与 David Hall 主导的完全开放科学项目 Marin 宣布，其 535B 总参数、23B 激活的 MoE 模型预训练进度已超过 80%。训练全程在公开环境下进行，团队同时放出了训练 loss 与自家 scaling-law 数据。模型从 4K 到 16K 的上下文切换过程中出现损失骤降现象。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。