AGI Hunt· HKUSTGZ·· 2 小时前AI 评分43
港科大(广州)论文:LLM agent 策略暗藏 harness 偏好,部署收益=harness 上限−策略失配
港科大论文:策略暗藏 harness 偏好,部署收益=harness 上限-策略失配
AI 导读
港科大(广州)团队论文《Your Policy Is Secretly a Harness》指出,LLM agent 的最优策略会恢复 harness 对各动作的偏好强度。在 KL 正则化控制下,部署收益=harness 上限−策略失配;训练只改变失配项,换 harness 则同时移动天花板与失配,因此比较 harness 需将两项分开。
来源:AGI Hunt · agihunt.info