跳到正文
/阅读与研究

外观

快速抵达

↑ ↓ 选择 · Enter 打开 · Esc 关闭MyHOT
Hugging Face · 每日论文· 媒体 / 作者来源·精选

不同任务、不同时间步:扩散语言模型的任务感知时间量化方法

原文标题

Different Tasks, Different Timesteps: Temporal Task-Aware Quantization for Diffusion Language Models

AI 导读

研究揭示扩散语言模型的量化敏感性与任务和时间步相关,不同下游任务在去噪步骤中需要不同精度。基于此,研究提出T2Quant框架,使用无标签敏感信号在固定比特预算下优化激活精度分配。在三个DLM和六个基准测试中,该方法平均准确率提升最高达6.7个百分点。

来源:Hugging Face · 每日论文 · arxiv.org

导读与选稿说明

T2Quant框架首次实现扩散语言模型的任务和时间感知量化,无需标签即可预测量化敏感模式,在相同预算下显著提升准确率。

导读由模型辅助整理,非独立核验。完整信息见原文。