跳到正文
原文
arXiv cs.CV· Yun Dai, Yuyun Chen, Jiarui Wen, Huiping Zhuang, Cen Chen, Ziqian Zeng·· 3 小时前AI 评分37

GSRS:用递增稀疏度与缩减搜索加速视频生成

Sparse Attention for Video Generation Acceleration via Growing Sparsity and Reduced Search

AI 导读

GSRS 是一个免训练稀疏注意力框架,在 HunyuanVideo 和 Wan 2.1 上实现 1.55×–2.21× 加速,生成质量与全注意力相当。它基于注意力熵与平均注意力距离的分析,让稀疏度随去噪进程递增、复用早期搜索结果缩小搜索空间,并采用 Top-p 自适应稀疏控制与 FlashAttention 内的精确权重计算。

来源:arXiv cs.CV · arxiv.org