arXiv cs.CV· Xiangzhong Ye, Zhongshen Li, Shen You, Ziyang Meng, Liang Xu, Junkai Ji, Qiuzhen Lin, Xiangtao Li, Ka-Chun Wong·· 3 小时前AI 评分42
TileShare:无需训练加速重叠分块 ViT 解码
TileShare: Training-Free Acceleration of Overlapping Tiled ViT Decoding
AI 导读
TileShare 是无需训练的重叠分块 ViT 解码加速方法,可共享重叠分块的重复计算。在 2.4B 参数的 MiniMax-H3 视频解码器上,每 tile 保留六层即提速 1.38-1.51x(FP8 下最高 1.96x),PSNR、LPIPS、DISTS 与原解码器持平。该方法还迁移到另外两个解码器,并在 2K-4K 的 ViTok-v2 图像自编码器上提速 1.5-1.8x。
来源:arXiv cs.CV · arxiv.org