Hugging Face · 每日论文· 媒体 / 作者来源·精选
不同任务、不同时间步:扩散语言模型的任务感知时间量化方法
原文标题
Different Tasks, Different Timesteps: Temporal Task-Aware Quantization for Diffusion Language Models
AI 导读
研究揭示扩散语言模型的量化敏感性与任务和时间步相关,不同下游任务在去噪步骤中需要不同精度。基于此,研究提出T2Quant框架,使用无标签敏感信号在固定比特预算下优化激活精度分配。在三个DLM和六个基准测试中,该方法平均准确率提升最高达6.7个百分点。
来源:Hugging Face · 每日论文 · arxiv.org
导读与选稿说明
T2Quant框架首次实现扩散语言模型的任务和时间感知量化,无需标签即可预测量化敏感模式,在相同预算下显著提升准确率。
导读由模型辅助整理,非独立核验。完整信息见原文。