跳到正文
原文
AGI Hunt· Md. Ismail Hossain·· 2 小时前AI 评分45

OASIS 用已验证轨迹修复自蒸馏缩放失效,8B 模型 AIME 提升 3 分以上

OASIS 用已验证轨迹修复自蒸馏缩放失效,8B 模型 AIME 提升 3 分以上

AI 导读

OASIS 通过主要监督经标签验证的在线策略轨迹、并用未验证的模型自生成尝试替代书面参考解答作为 teacher 上下文,修复了在线策略自蒸馏(OPSD)随模型规模增大而失效的问题。在 Qwen3-1.7B/4B/8B 上针对 AIME 2024、AIME 2025、HMMT 2025,OASIS 较基线平均提升 3.2–3.8 分,8B 规模下比 OPSD 高 3.05 分。

来源:AGI Hunt · agihunt.info