跳到正文
原文
AGI Hunt· omarsar0·· 4 小时前AI 评分53

UCLA 论文实测多智能体持久记忆:峰值 KV 缓存降 60%,记忆层几乎无效

UCLA 论文实测多智能体持久记忆:峰值 KV 缓存降 60%,但记忆层几乎无效

AI 导读

UCLA 等机构的论文《Persistent Memory in Multi-Agent LLM Inference》实测多智能体持久记忆架构,三层 chain-of-agents 系统把长上下文拆给多个智能体后,每查询峰值 KV 缓存仅 14.3 MiB,低于单次推理(约 35.5 MiB)和 RAG 基线(35.3 MiB)。

来源:AGI Hunt · agihunt.info