跳到正文
原文
AGI Hunt· Arindam_1729·· 2 小时前精选AI 评分67

省 token 心法:让 Jev 类廉价模型做分诊决策,Claude 只管写

省 token 心法:让便宜模型做决策,贵模型只管写

AI 导读

Arindam 分享了一套降低 Agent token 开销的架构,用廉价的 Jev 类决策模型做第一遍分诊,判断是否垃圾、重复、值得回复或如何排序,只在真正需要写作时才交给 Claude。实测 Jev 处理 13% 的步骤,约 80% token 留给 Claude 做难活,并设置人工审批门,草稿置信度低于阈值即停下等确认、未批准不发到 X。他的结论是先把做决定的模型换便宜,而不是换写作模型。

推荐理由

用廉价决策模型做分诊、只把写作交给 Claude 的 token 分配思路,附实测占比,可迁移到自建 Agent。

来源:AGI Hunt · agihunt.info