AGI Hunt· jjusko20·· 8 小时前AI 评分44
SFTMill 开源:用 OpenAI 兼容端点做离策略蒸馏生成微调数据
SFTMill 开源:用 OpenAI 兼容端点做离策略蒸馏造微调数据
AI 导读
SFTMill 开源,通过 OpenAI 兼容端点对任意现有 LLM 做离策略蒸馏,把行为目标转成完整训练数据集。工作流用 YAML 定义课程表,由 LLM 生成任务,教师模型逐题求解产出覆盖微调目标的问答数据集。作者建议任务生成至少用 Qwen 3.8 27B(medium 档),更弱的模型质量不够。
来源:AGI Hunt · agihunt.info