AGI Hunt· gaganghotra_·· 3 小时前AI 评分35
用 Jev 路由器把 GPT 5.1 任务分流到开源模型,成本省约 73%
AI 导读
开发者 1littlecoder 借 typesafeai 的 Jev 路由,把 GPT 5.1 的 Medium 难度任务分流到 Nebius 托管的开源模型上,测试用例中实现约 73% 成本节省、成功率 98.4%。他称这只是一个小用例切片,但该模式可扩展到更多场景降本。企业普遍需要这样一层路由器,自动决定哪些请求走前沿模型、哪些走开源模型。
来源:AGI Hunt · agihunt.info