AGI Hunt· nvidia·· 2 小时前AI 评分51
NVIDIA 提出 EdgeWise 端云协作框架,Agent 推理成本最多降 62%
NVIDIA EdgeWise:端侧小模型+选择性上云,长程 Agent 推理成本降 62%
AI 导读
NVIDIA 论文提出 EdgeWise 端云协作框架,本地部署小语言模型(SLM)作为主要执行者,只在关键步骤把任务委派给云端 LLM。实测在 SWE-Rebench 上推理成本最多降低 62%,Terminal-Bench 2.1 上降低 34%,性能持平或更优。作者引入步级 RL 方法联合优化任务求解与委派决策,含细粒度信用分配,并已在本地工作站实际部署验证。
来源:AGI Hunt · agihunt.info