LatentLoop：循环 MoE 非对称分配算力省 19% 计算

2026年10月15日，AGI Hunt 报道，研究者提出 LatentLoop，为循环 MoE 做非对称算力分配。其做法是区别对待两次 loop 访问：压缩第一次访问的序列，第二次保留全分辨率，把由此省下的计算加到 hidden size 上。两次访问共享 MoE 权重，但使用独立的 attention 参数，以适配不同的序列分辨率。报道称该方案在同等效果下可节省 19% 计算。目前除该报道外，尚无更多关于实验设置、对比基线与验证情况的细节披露。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。