跳到正文
热点事件持续更新

Modal 用混合精度与混合加速器做异步 RL 训练

2 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月14日,AGI Hunt 报道 Modal 提出用完全异步 RL 训练模型,结合混合精度、混合加速器采样器与 off-policy correction,在 agentic coding 任务上训练,报道称收敛稳定且成本更低,效果与同质采样器相当。Modal 指出,固定同质、最新代加速器集群虽能保证数值稳定与吞吐,却丢弃了为其他厂商或世代所做的推理优化,限制可用容量且成本过高。同日后续报道补充实验细节:实验由 nanjiangwill 与 Modal 完成,采样器使用 MXFP8、MXFP4、NVFP4 等不同精度,或运行在不同代际、厂商的加速器上,配合 off-policy 校正即可稳定收敛,混合异构方案可显著降低成本并保持训练稳定。两篇报道结论一致,未出现数字或说法矛盾。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. AGI Hunt
    Modal 实验:混合精度与混合加速器跑 RL 训练更省成本且稳定收敛

    nanjiangwill 与 Modal 实验表明,用不同精度(MXFP8、MXFP4、NVFP4)或不同代际、厂商加速器上的采样器执行 RL rollout,配合 off-policy 校正即可稳定收敛。Modal 称传统做法依赖固定同质、最新代加速器集群,虽保证数值稳定与吞吐,却丢弃为其他硬件做的推理优化、限制可用容量且成本高昂。混合异构方案可显著降低成本并保持训练稳定。

  2. AGI Hunt
    Modal 用混合精度混合加速器异步 RL 训练,成本更低且稳定收敛

    Modal 用完全异步 RL 加混合精度、混合加速器采样器与 off-policy correction,在 agentic coding 任务上训练模型,收敛稳定且成本更低。其效果与同质采样器相当,整个收敛过程保持稳定。Modal 指出,固定同质、最新代加速器集群虽能保证数值稳定与吞吐,却丢弃了为其他厂商或世代做的推理优化,限制可用容量且成本过高。

本事件热度走势

当前热度 9·可比范围峰值 10(10月14日 04:00)·近 24 小时可比范围变化 –

02.557.51010月14日04:0010月14日05:0010月14日05:0010月14日06:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。