AGI Hunt· Al_Grigor·· 7 小时前AI 评分58
DataTalksClub 的 Alexey 分享用 GitHub issues 反推 RAG 系统 eval 数据集
RAG 系统 prompt 越补越大怎么救:用 GitHub issues 反推 eval 数据集
AI 导读
DataTalksClub 的 Alexey 分享其 RAG 应用上线后的困境:人工修正不断累积,system prompt 一条条往里加,最终成了不敢动的巨型单体。他缺少构建 eval 数据集所需的运行 trace,于是把 GitHub issues 作输入、被接受的 PR 作成功输出、人工修正记录作失败样本,搭起 eval 基线后才敢重构 prompt。
来源:AGI Hunt · agihunt.info