跳到正文
原文
AGI Hunt· IITK·· 3 小时前AI 评分39

FSPO:函数空间时间自蒸馏让 7B/8B 模型推理训练更快更省

AI 导读

新论文提出函数空间策略优化 FSPO,结合时间整合与特权适配来改进推理与工具使用策略优化。在 Qwen3-8B 和 Olmo3-7B-Instruct 上,5 小时训练预算内五项任务 avg@16 达 76.2 和 72.4,超过 GRPO(Qwen3-8B 为 70.4)与 SDPO 基线。平均生成 token 与显存占用更低,实验用 4 张 NVIDIA GH200。

来源:AGI Hunt · agihunt.info