arXiv cs.CL· Johnny Yu, Cyril Gorlla·· 2 小时前AI 评分39
Fin-SD 中提示词到底有多重要?金融推理事后自蒸馏的范围条件
How Much Does the Hint Matter? Scope Conditions for Hindsight Self-Distillation in Financial Reasoning
AI 导读
Fin-SD 让学生模型自行定位首个错误推理步骤并写出简短点评,据此对冻结副本做反向 KL 自蒸馏,使 GPT-OSS-20B 在 FinanceReasoning Hard 子集上比基座模型提升 3.03 个百分点。
来源:arXiv cs.CL · arxiv.org