arXiv cs.CL· Zihe Song, Wenting Zhao, Ye Liu, Yuanjie Zhu, Ke Xu, Shanghao Li, Philip S. Yu·· 3 小时前AI 评分44
SpecMem：通过实时记忆管理加速智能体工具调用
SPECMEM: Accelerating Agentic Tool Calling via Live Memory Management
AI 导读
SpecMem 提出一种在部署中持续维护的工具调用记忆：已验证的调用会在线写回按用户划分的有界存储并以 LRU 淘汰，同时用副作用门控把不可逆调用延后到验证通过。在三个开放权重模型的多会话、多用户查询流上，其平均接受 token 数比冻结记忆高 27%（各基准 +11% 至 +34%），墙钟加速最高 1.74x。
来源：arXiv cs.CL · arxiv.org