AGI Hunt· srush_nlp·· 2 小时前AI 评分45
LMSYS 详解 TITO 原则:训练与推理 token 序列不一致如何毁掉 RL 训练
LMSYS 详解 TITO 原则:训练与推理 token 序列不一致如何毁掉 RL 训练
AI 导读
LMSYS 在 Miles 框架博客中阐述 TITO 原则:trainer 评估的 token 序列必须与推理引擎在 rollout 中实际消费、产出的完全一致,否则会造成 training-inference mismatch。
来源:AGI Hunt · agihunt.info