热点事件持续更新
谷歌提出受睡眠启发的LLM持续学习框架
2 篇报道2 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月28日,Google Research 在一手发布中提出受睡眠启发的 sleep 框架,用于让大语言模型在持续学习过程中保留已学知识。该框架采用“清醒交互—离线巩固”的循环:模型在清醒阶段与环境交互,在离线阶段把短期上下文固化进长期参数。为减少灾难性遗忘,框架结合了 MoE 参数扩展、GKD 以及基于强化学习的模仿学习。实验显示,模型能够保留最长 10M tokens 的长上下文知识,并提升复杂推理能力。同日稍晚,AGI Hunt 跟进报道,称该研究为“睡眠框架”(sleep framework),在持续学习中引入周期性 sleep phase,把 wake 阶段易失的 KV cache 短期上下文固化为参数化的长期记忆。两篇报道在框架机制与效果上说法一致,目前该工作仍处于研究阶段,报道未披露更多落地细节。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 02:03
AGI Hunt 跟进报道,称该框架以周期性 sleep phase 将 wake 阶段 KV cache 固化为长期记忆。报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- AGI HuntGoogle Research 提出睡眠框架:让 LLM 持续学习、知识保留达 1000 万 token
Google Research 发布「睡眠框架」(sleep framework)研究,在持续学习中引入周期性 sleep phase,把 wake 阶段易失的 KV cache 短期上下文固化为参数化的长期记忆。
- Google ResearchGoogle Research 提出 sleep 框架:让 LLM 在持续学习中保留知识
Google Research 提出受睡眠启发的 sleep 框架,让 LLM 通过“清醒交互—离线巩固”循环持续学习,并把短期上下文固化进长期参数。该框架用 MoE 参数扩展、GKD 和 RL 模仿学习减少灾难性遗忘。实验显示模型可保留最长 10M tokens 的长上下文知识并提升复杂推理。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。