跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT
Hugging Face · 每日论文· 媒体 / 作者来源·精选

Deep Fusion Memory:一种面向大语言模型的块级参数化记忆架构

原文标题

Deep Fusion Memory: A Chunk-Level Parametric Memory for Large Language Models

AI 导读

研究团队提出Deep Fusion Memory (DFM),一种参数化记忆架构,通过因果记忆预测器从上下文生成记忆,并融合到隐藏状态中。相比现有方法,DFM构建训练数据的检索查询减少32倍,检索项目减少2048倍。在六个QA任务中,DFM在Mistral-7B-v0.3上超越最强基线12.71%,在Qwen3-8B-Base上超越11.19%;领域适配任务中平均提升6.51和4.38分。

来源:Hugging Face · 每日论文 · arxiv.org

导读与选稿说明

DFM显著降低了参数化记忆的训练数据构建成本,并在QA和领域适配任务中实现了性能提升。

导读由模型辅助整理,非独立核验。完整信息见原文。