跳到正文
原文
AGI Hunt· Fun-Meaning-6474·· 2 小时前AI 评分48

AI/ML API 用小型分类模型 Jev 驱动 MCP 路由:成本降 90%、提速 76%

小分类模型驱动 MCP 路由:成本降九成、提速超七成

AI 导读

AI/ML API 团队基于小型分类模型 Jev 构建 MCP 路由器,先由 Jev 审视请求再决定交给哪个模型处理,实测成本降低 90%、速度提升 76%。该路由器把 10,000+ 工具与模型聚合在单个 MCP 服务器之后,短消息无需动用昂贵模型。Jev 是一个以 JSON 为输入、输出概率的快速廉价分类器。

来源:AGI Hunt · agihunt.info