跳到正文
原文
AGI Hunt· sull·· 3 小时前AI 评分47

爆料:Jev 发布前推理服务商已用小模型分流,用户仍付全价

爆料:服务商早就在后台用小模型分流,用户却一直付全价

AI 导读

各大推理服务商在 Jev 发布之前,就已用分类器/决策器技术做请求路由,把简单请求交给低成本小模型处理,却仍向用户收取完整的 LLM 推理费用。作者认为这种分流本应直接暴露给用户,意味着消费者被薅了多年,而 @typesafeai 的发布迫使行业摊牌。

来源:AGI Hunt · agihunt.info