新论文解析多模态 MoE 专家内部结构，用于大幅加速模型适配

NYU 的 Georgios Gkioxari 等人发布博客与论文，解析多模态 MoE 模型预训练后各专家形成的内部结构。研究聚焦这些专家内部发展出何种结构化知识，并探索能否利用该结构显著加快模型适配，作者称给出了肯定的探索结果。细节见论文与博客。