跳到正文
原文
arXiv cs.CV· Xudong Tan, Peng Ye, Ming Xie, Chenyu Huang, Yaoxin Yang, Jiayuan Fan, Tao Chen·· 8 小时前AI 评分39

DecoMoE:解耦视觉传播与专家计算,实现高效多模态 MoE 推理

DecoMoE: Decoupling Visual Propagation and Expert Computation for Efficient Multimodal MoE Inference

AI 导读

DecoMoE 将视觉传播与专家计算解耦,用 SAVB 预测输入相关的视觉退出层、RCEP 按文本 token 路由质量重排专家前缀,以加速多模态 MoE 推理。

来源:arXiv cs.CV · arxiv.org