AGI Hunt· Delong Li·· 4 小时前AI 评分46
Jev 决策模型替代 LLM 做边缘编排,中位决策延迟降低 22.7-64.5%
Jev 决策模型替代 LLM 做边缘编排,延迟降 22.7-64.5%
AI 导读
决策导向的 Jev 决策模型可替代 LLM 处理边缘服务编排中的自然语言请求决策,在 8280 个验证请求、33 种测试条件下,中位决策延迟比最快的 LLM 降低 22.7-64.5%。四字段契约下其每次正确决策的 API 费用比 LLM 低 59.7-80.9%,代价是少量精确匹配点数;实时准入路径上,Jev 在 LLM 已跌破 0.1 的负载下仍保持 0.91-0.95 的请求按时精确完成率。
来源:AGI Hunt · agihunt.info