港科大与华为提出BalanceRoute优化MoE推理负载均衡

2026年10月25日，据AGI Hunt报道，港科大周子捷团队与华为2012实验室理论部提出BalanceRoute，相关论文被NeurIPS 2026接收，论文编号为arXiv 2605.06113。该方法面向MoE推理中数据并行下的负载不均问题，将分布式解码的跨组同步等待问题数学化建模，并把短期负载预测转化为在线路由决策，以此缓解MoE推理的负载均衡瓶颈，目前进展为论文获会议接收。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。