Hugging Face · 每日论文· 媒体 / 作者来源·精选
Nemotron-Labs-Diffusion-Uni:统一离散扩散大模型实现视觉理解与生成
原文标题
Nemotron-Labs-Diffusion-Uni: Elastic Self-Refining Unified Diffusion LLM with Cross-Paradigm On-Policy Distillation
AI 导读
研究团队提出Nemotron-Labs-Diffusion-Uni (NLD-Uni),一种用于视觉理解和生成任务的统一离散扩散大模型。该模型引入两大创新:一是统一跨范式在线蒸馏框架,成功将自回归视觉语言模型的视觉理解能力和连续流模型的视觉生成能力转移到统一DLLM中;二是渐进式自 refining扩散过程,在训练过程中逐步破坏每个token,而非传统掩码扩散直接将干净图像token破坏为无信息mask token。推理时,该设计允许NLD-Uni对token进行中间提交,实现渐进式自 refining以获得更好的视觉质量。实验表明,NLD-Uni在视觉问答、多模态推理、目标定位、文本到图像生成和图像编辑等多样化任务上,在统一DLLM中达到最先进性能。
来源:Hugging Face · 每日论文 · arxiv.org
导读与选稿说明
NLD-Uni通过统一跨范式在线蒸馏和渐进式自 refining扩散过程,实现了视觉理解和生成能力的统一,并在多项任务上达到最先进性能。
导读由模型辅助整理,非独立核验。完整信息见原文。