热点事件持续更新
NYU 提出 DRMoET 鲁棒 MoE 训练法
2 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026 年 10 月 14 日，AGI Hunt 报道 NeurIPS 2026 论文 DRMoET（Distributionally Robust MoE Training），针对混合专家（MoE）稀疏路由的隐性可靠性问题提出新的训练方法：不添加辅助损失，也不改动路由规则，而是用激活加权的专家损失对 softmax 做熵正则化重加权，以强化高损失的路由路径。报道称，经负载均衡训练的 10.3B 规模 MoE 在七个任务上平均得分 0.6767，优于免辅助损失（auxiliary-loss-free）基线及相关基线。同日后续报道将该工作归于纽约大学团队，并称其效果超越 DeepSeek 式的免辅助损失方案。目前公开信息仅包含方法设计与这一组实验结果，尚无复现、第三方评测或更大规模验证的报道。
AI 根据报道生成 · 2 小时前更新
最新进展10月14日 15:56
新报道将 DRMoET 归为纽约大学团队成果，并称其超越 DeepSeek 式免辅助损失方案。报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- AGI HuntDRMoET 论文：10.3B 规模 MoE 七任务均分 0.6767，碾压免辅助损失基线
NeurIPS 2026 论文 DRMoET 提出一种不加辅助损失、不改路由规则的 MoE 训练法，用激活加权的专家损失做熵正则 softmax 重加权，强化高损失路由路径。
- AGI HuntNYU 提出 DRMoET 鲁棒 MoE 训练法
纽约大学团队在 NeurIPS 2026 论文中提出 DRMoET（Distributionally Robust MoE Training），针对 MoE 稀疏路由的隐性可靠性问题。实验显示，负载均衡训练的 10.3B 模型在七个任务上均值提升至 0.6767，效果超越 DeepSeek 式免辅助损失方案与相关基线。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。