AGI Hunt· Greedy-Badger-8463·· 2 小时前AI 评分31
LLM 调用出问题时该记什么日志:版本号、脱敏 prompt 还是全量?
LLM 调用出问题时你到底记什么日志?版本号、脱敏 prompt 还是全量?
AI 导读
Reddit 用户 Greedy-Badger-8463 指出,LLM 应用出问题时「和昨天用同一个模型」几乎说明不了什么,因为 prompt、工具描述或模板都可能变。全量保存请求最利于调试,但 trace 会积累用户数据,带来隐私与合规负担。折中做法是记录版本 ID、脱敏后的 prompt 或短期保留全量 payload,帖中正征集业界的取舍边界。
来源:AGI Hunt · agihunt.info