Google提出LLM持续学习睡眠框架
热点事件观察中
Google提出LLM持续学习睡眠框架
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
2026年10月28日,Google Research 提出一种面向大语言模型持续学习的 sleep 框架。据该来源介绍,这一框架受人类大脑在休息时处理和稳定记忆的方式启发,为 LLM 设计连续的周期性生命周期,使其在主动交互与离线记忆巩固之间交替,从而持续学习,并把脆弱的短期上下文巩固进稳定的长期参数。该框架通过 MoE 参数扩展、基于 GKD 与 RL 模仿学习进行知识播种,并在 dreaming 阶段用随机专家激活和梯度筛选生成训练样本。目前报道仅介绍框架设计与机制,未披露实验规模、效果数据或适用模型范围。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 01:35
Google 提出 sleep 框架:让 LLM 在持续学习中保留知识报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- Google ResearchGoogle 提出 sleep 框架:让 LLM 在持续学习中保留知识
Google 研究者提出 sleep 框架,让 LLM 在主动交互与离线记忆巩固之间交替,把短期上下文写入长期参数。该框架通过 MoE 参数扩展、基于 GKD 与 RL 模仿学习进行知识播种,并在 dreaming 阶段用随机专家激活和梯度筛选生成训练样本。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。