自托管 LLM 到底值不值？工程师征集团队真实成本账

一位基础设施工程师在 Reddit 发帖，征集团队自托管 LLM 与付 API 费的真实成本账，想问什么规模下自托管才划算。他征集决定自托管时的 API 账单规模、计入 GPU、空闲时间与工程人力后的总成本，以及冷启动、自动扩缩、OOM、凌晨告警等痛点。作者还问有没有团队退回 API、为什么，并承诺把回复汇总成成本/决策分析帖发回社区。