工程师征集团队自托管LLM真实成本数据

2026年10月2日，一位基础设施工程师在 Reddit 发帖，向社区征集团队自托管 LLM 与直接支付 API 费用的真实成本数据，想弄清在什么规模下自托管才划算。帖子征集的内容包括：决定自托管时 API 账单的规模，计入 GPU、空闲时间与工程人力后的总成本，以及冷启动、自动扩缩、OOM、凌晨告警等实际痛点；作者还询问是否有团队最终退回使用 API 以及原因。作者承诺把收到的回复汇总成一份成本／决策分析帖发回社区。目前该征集仍在进行中，尚未见汇总结果发布。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。