Google Research 提出 LLM 持续学习睡眠框架
热点事件持续更新
Google Research 提出 LLM 持续学习睡眠框架
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Google Research 提出一种用于大模型持续学习的“睡眠”框架，让模型在活跃交互与离线睡眠两个阶段间交替，把短期上下文巩固为长期参数。 据 Google Research 介绍，睡眠阶段通过 MoE 参数扩展、知识播种和随机专家激活的“做梦”自改进循环来缓解灾难性遗忘。其称该框架在 BABILong 上可近完美扩展到 10M tokens，在 AIME 24/25 与 HMMT 25 上分别取得 79.2%、69.0%、46.1% 的准确率；这些为提出方报告的结果。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 01:35
Google 提出 sleep 框架：让 LLM 在持续学习中保留知识报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- Google Research精选Google 提出 sleep 框架：让 LLM 在持续学习中保留知识
Google Research 提出 sleep 框架，让 LLM 在活跃交互与离线睡眠两个阶段间交替，把短期上下文巩固为长期参数。睡眠阶段通过 MoE 参数扩展、知识播种与随机专家激活的“做梦”自改进循环缓解灾难性遗忘；在 BABILong 上近完美扩展到 10M tokens，在 AIME 24/25 与 HMMT 25 上分别取得 79.2%、69.0%、46.1% 的准确率。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。