热点事件持续更新
ROME 三阶段训练管线拆解公开
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年10月6日,AGI Hunt 报道对 ROME 的三阶段训练管线进行了拆解。据报道,Stage 1 是在 5000 亿 token 的结构化代码任务上做 CPT 持续预训练;Stage 2 是带错误掩码的两阶段 SFT;Stage 3 是块级优化的 RL。报道称三个阶段逐级递进,走的是系统性能力积累路线,而非捷径。目前公开的信息集中在管线构成与各阶段所采用的方法上,本事件此前无更早报道,暂无与其他报道相互矛盾的数字或说法。
AI 根据报道生成 · 3 小时前更新
最新进展10月6日 16:00
ROME 管线拆解公开:500B token CPT、错误掩码两阶段 SFT 与块级 RL 逐级递进。报道时间线
沿着报道,了解事件的不同侧面。
10月6日
- AGI HuntROME 训练管线拆解:500B token CPT 加两阶段 SFT 与 RL
ROME 的三阶段训练管线被拆解:Stage 1 在 5000 亿 token 的结构化代码任务上做 CPT 持续预训练,Stage 2 是带错误掩码的两阶段 SFT,Stage 3 是块级优化的 RL。各阶段逐级递进,走的是系统性能力积累路线而非捷径。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。