AGI Hunt· omarsar0·· 4 小时前AI 评分39
Harness-Aware Distillation:让小模型学会用 Agent 框架信息的新蒸馏法
Harness-Aware Distillation:让小模型学会用 Agent 框架信息的新蒸馏法
AI 导读
Harness-Aware Distillation 让大模型 teacher 分别在带与不带 harness 信息两种条件下执行任务,只在动作不一致的样本上训练小模型,并过滤偏好动作与 harness 记录矛盾的样本对,全程无需任务奖励或成功标签。
来源:AGI Hunt · agihunt.info