AGI Hunt· samsja19·· 3 小时前AI 评分35
Prime Intellect 的 prime-rl 合并 IcePop 分数中心化与截断采样回放支持
Prime Intellect 合并 IcePop 分数中心化与截断采样回放支持
AI 导读
Prime Intellect 的 prime-rl 合并 PR #4176,为强化学习训练加入截断采样下的 IcePop 分数中心化支持。截断采样采用 bounded top-k,可选叠加 top-p;新方案从记录的支撑集采样,在训练器回放整个采样器分布并精确中心化,回放 token 不再用尾部近似。非截断采样保留原有头部加比例尾部近似,此次改动是 PR #4012 的后续改进。
来源:AGI Hunt · agihunt.info