Google Research· 机构原始发布·· 2 小时前精选
Google Research提出睡眠框架：让LLM在持续学习中保留知识
原文标题
The sleep framework: A new way for LLMs to retain knowledge in continual learning
AI 导读
Google Research提出睡眠框架，通过交替活跃期和离线记忆巩固期，使大语言模型能够持续获取新事实，保留长达1000万tokens的长上下文知识，并提升复杂推理能力。该框架通过参数扩展、知识播种和梦境式自我改进，解决了持续学习中的灾难性遗忘问题。
来源：Google Research · research.google
导读与选稿说明
提供了一种解决LLM灾难性遗忘的新方法，通过模拟人类睡眠机制实现知识的长期保留和持续学习。
导读由模型辅助整理，非独立核验。完整信息见原文。