AGI Hunt· burkov·· 3 小时前AI 评分46
评测框架代码成研究热点:CMU 用 LLM+RL 自动改写 harness
评测框架代码本身成了研究热点:CMU 用 LLM+RL 自动改写 harness
AI 导读
CMU 与 Johns Hopkins 用 LLM + 强化学习自动重写 agent 评测框架 harness 代码,使其对任务类型更有效。Google、Stanford 等对重写过程做正则化以避免过拟合训练样例,Apple 则相反:LLM 足够强时 harness 代码长什么样并不重要。研究者 Burkov 汇总的这三篇工作共同追问:评测框架本身是变量还是噪声。
来源:AGI Hunt · agihunt.info