AGI Hunt· Md. Ismail Hossain·· 2 小时前AI 评分45
OASIS 用已验证轨迹修复自蒸馏缩放失效,8B 模型 AIME 提升 3 分以上
OASIS 用已验证轨迹修复自蒸馏缩放失效,8B 模型 AIME 提升 3 分以上
AI 导读
OASIS 通过主要监督经标签验证的在线策略轨迹、并用未验证的模型自生成尝试替代书面参考解答作为 teacher 上下文,修复了在线策略自蒸馏(OPSD)随模型规模增大而失效的问题。在 Qwen3-1.7B/4B/8B 上针对 AIME 2024、AIME 2025、HMMT 2025,OASIS 较基线平均提升 3.2–3.8 分,8B 规模下比 OPSD 高 3.05 分。
来源:AGI Hunt · agihunt.info