跳到正文
原文
AGI Hunt· BraceSproul·· 3 小时前AI 评分53

LangChain 工程师:仅靠生产 traces 自动生成 evals 远远不够

AI 导读

LangChain 的 Brace Sproul 提出,仅用用户真实流量产生的 traces 做 evals,得到的永远只是回归测试式 evals。他认为这类 evals 该有,但做 eval 开发时超过 50% 的时间应花在探索 agent 理论上能处理什么,并为此编写评测,从而在用户踩坑之前发现问题。结论是不能简单把 prod traces 转成 evals,需要更主动的评测设计。

来源:AGI Hunt · agihunt.info