AGI Hunt· jiqizhixin·· 3 小时前AI 评分39
港科大联手华为提出 BalanceRoute,破解 MoE 推理负载均衡瓶颈
港科大联手华为提出 BalanceRoute,破解 MoE 推理负载均衡瓶颈
AI 导读
港科大周子捷团队与华为 2012 实验室理论部提出 BalanceRoute,论文被 NeurIPS 2026 接收(ArXiv 2605.06113)。该方法用于缓解 MoE 推理中数据并行下的负载不均,将分布式解码的跨组同步等待问题数学化建模,并把短期负载预测转化为在线路由决策。
来源:AGI Hunt · agihunt.info