跳到正文
原文
AGI Hunt· _lewtun·· 2 小时前AI 评分36

Hugging Face TRL 异步 GRPO 训练器默认启用 score centering + masked importance sampling

TRL 异步 GRPO 训练器默认启用 score centering + masked importance sampling

AI 导读

Hugging Face TRL 团队将 score centering 和 masked importance sampling 设为异步 GRPO Trainer 的默认配置。该配置在多种 staleness 与 sampler 量化设置下明显提升训练稳定性,可开箱即用地缓解异步 GRPO 的陈旧样本和量化采样不稳定问题,无需自行调参。

来源:AGI Hunt · agihunt.info