跳到正文
热点事件持续更新

ROME 三阶段训练管线拆解公开

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

2026年10月6日,AGI Hunt 报道对 ROME 的三阶段训练管线进行了拆解。据报道,Stage 1 是在 5000 亿 token 的结构化代码任务上做 CPT 持续预训练;Stage 2 是带错误掩码的两阶段 SFT;Stage 3 是块级优化的 RL。报道称三个阶段逐级递进,走的是系统性能力积累路线,而非捷径。目前公开的信息集中在管线构成与各阶段所采用的方法上,本事件此前无更早报道,暂无与其他报道相互矛盾的数字或说法。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月6日
  1. AGI Hunt
    ROME 训练管线拆解:500B token CPT 加两阶段 SFT 与 RL

    ROME 的三阶段训练管线被拆解:Stage 1 在 5000 亿 token 的结构化代码任务上做 CPT 持续预训练,Stage 2 是带错误掩码的两阶段 SFT,Stage 3 是块级优化的 RL。各阶段逐级递进,走的是系统性能力积累路线而非捷径。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。