质疑MoE共享专家缺规模化收益且损害对齐

2026年10月7日，AGI Hunt 报道，menhguin 追踪 MoE 共享专家的技术脉络后发现，没有任何规模化证据表明共享专家在前沿规模预训练中带来收益，反而可能降低后训练有效性与模型可对齐性。该机制全部源自一篇 DeepSeek MoE 论文，之后被各方照抄，却都没有发表验证结果。作者推测，共享专家会损害专家专业化，使后训练中的细粒度权重调整不够精准。目前该质疑仅基于技术脉络梳理与推测，尚未见相关规模化验证结果公布，也未见 DeepSeek 或其他采用该机制的团队作出回应。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。