Hugging Face · 每日论文· 媒体 / 作者来源·精选
Speculative Sampling:让交互式视频生成用大双向窗口实现低延迟
原文标题
Speculative Sampling in Interactive Video Generation
AI 导读
论文发现更大的双向块能提升视频质量并更好利用 GPU 并行,但传统交互式视频生成依赖小块以降低延迟。作者提出 Speculative Sampling:通过在建模窗口后附加噪声潜变量作填充,并缓存预测结果在条件不变时复用,兼顾大窗口的建模能力与小窗口的低延迟交互。预测增量交付,未提交的未来部分仍可替换。延迟分析显示该方法消除了块边界带来的等待时间下界,使双向窗口大小成为可联合优化视觉质量与采样时间的决策变量,而不再是低延迟交互的硬约束。
来源:Hugging Face · 每日论文 · arxiv.org
导读与选稿说明
提出一种无需复杂流式后训练即可在交互式流式系统中部署大型双向视频生成模型的采样策略,消除了块边界等待下界,让窗口大小可同时优化画质与延迟,适合做实时视频生成服务与系统的团队参考。
导读由模型辅助整理,非独立核验。完整信息见原文。