跳到正文
原文
AGI Hunt· jiqizhixin·· 2 小时前AI 评分44

Apple 与 CMU 提出 SSR:推理延迟降 90% 的多模态搜索智能体框架

Apple 与 CMU 提出 SSR:推理延迟降 90% 的多模态搜索智能体框架

AI 导读

Apple 与卡内基梅隆大学提出 SSR 框架,把智能体的自由生成式推理改为从预定义策略库中选择,每轮推理延迟降低超 90%。推理库含图像搜索、文本搜索、裁剪放大等六个可复用选项,并借共享 KV cache 并行评分候选策略。在 7 个多模态搜索 benchmark 上以 2B/4B 模型评测,成功率与同规模领先搜索智能体相当,每题总延迟降 28–54%。

来源:AGI Hunt · agihunt.info