AGI Hunt· AAAzzam·· 5 小时前AI 评分35
Modal 用混合精度混合加速器异步 RL 训练,成本更低且稳定收敛
AI 导读
Modal 用完全异步 RL 加混合精度、混合加速器采样器与 off-policy correction,在 agentic coding 任务上训练模型,收敛稳定且成本更低。其效果与同质采样器相当,整个收敛过程保持稳定。Modal 指出,固定同质、最新代加速器集群虽能保证数值稳定与吞吐,却丢弃了为其他厂商或世代做的推理优化,限制可用容量且成本过高。
来源:AGI Hunt · agihunt.info