跳到正文
原文
AGI Hunt· No_Refrigerator_8216·· 3 小时前AI 评分30

OpenAI Batch API 与普通 API 该不该分开记账?团队成本归因讨论

Batch 与普通 API 该不该分开记账?团队 OpenAI 成本归因讨论

AI 导读

一位开发团队负责人在 Reddit 讨论 OpenAI 成本归因,倾向把 Batch API 花费从普通 API 中拆出单独追踪并设独立预算。原因是 Batch 用量多来自有人跑大型任务、eval 或处理新数据集,与当天产品使用无关,而普通 API 用量随产品活动波动、可解释。单一数字会让账单上涨既可能源自客户增长、也可能是后台任务暴增,他因此征求重度使用 Batch 团队的经验。

来源:AGI Hunt · agihunt.info