N-Gram Memories at Two Bits: 量化大型语言模型中的查找表
AI 导读研究提出Conditional Program (CP)压缩表示方法,通过短码和局部尺度重建输入请求的行,仅需两比特编码即可将输出KL降低41-63%。在三个训练的n-gram记忆家族中,共享格子在匹配存储预算下优于测试的拟合码本和低秩残差变体,将DeepSeek的表存储从203GB减少到51GB。
AI 选稿理由解决了大型语言模型中嵌入表存储瓶颈问题,显著降低存储需求同时保持模型性能,使更多工作负载可驻留在GPU上。