跳到正文
原文
AGI Hunt· jiqizhixin·· 3 小时前AI 评分39

港科大联手华为提出 BalanceRoute,破解 MoE 推理负载均衡瓶颈

港科大联手华为提出 BalanceRoute,破解 MoE 推理负载均衡瓶颈

AI 导读

港科大周子捷团队与华为 2012 实验室理论部提出 BalanceRoute,论文被 NeurIPS 2026 接收(ArXiv 2605.06113)。该方法用于缓解 MoE 推理中数据并行下的负载不均,将分布式解码的跨组同步等待问题数学化建模,并把短期负载预测转化为在线路由决策。

来源:AGI Hunt · agihunt.info