热点事件持续更新
Gandalf：SSD寿命感知的KV cache卸载系统
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月26日，AGI Hunt 报道了一篇新论文，提出名为 Gandalf 的系统，这是首个 SSD 寿命感知的 KV cache 卸载系统。该研究指出，在本地 LLM 推理中，多轮对话和 AI 智能体负载会产生大量 KV cache 写入，使写入量超过 SSD 额定写入量，导致 SSD 寿命从数年缩短至数月。Gandalf 的做法是按注意力类型分级：优先将全注意力 KV cache 写入 SSD，以减轻闪存磨损。报道称，该系统使 SSD 寿命平均延长 7.3 倍，并且缓存命中率几乎不受影响。目前该研究仍处于论文发布阶段，报道未提及实际部署或第三方复现情况。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 08:46
新论文提出 Gandalf，按注意力类型分级卸载，SSD 寿命平均延长 7.3 倍。报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- AGI Hunt新论文 Gandalf：KV cache 卸载 SSD 会让闪存寿命从数年缩至数月，按注意力类型分级可延寿 7.3 倍
Gandalf 论文提出首个 SSD 寿命感知的 KV cache 卸载系统，按注意力类型优先将全注意力 KV cache 写入 SSD，使 SSD 寿命平均延长 7.3 倍。该研究针对本地 LLM 推理中多轮对话和 AI 智能体负载导致 KV cache 写入量超过 SSD 额定写入量、寿命从数年缩至数月的问题，并称命中率几乎不受影响。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。