热点事件持续更新
LOOM 让循环 MoE 稳定扩展至 9-12 层循环
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
循环 MoE 架构近来受到关注，据报道 GPT-6 将采用该架构，但社区质疑其在同等 FLOPs 下能否胜过标准 MoE，此前开源方案通常只循环两次。LOOM 诊断出阻碍循环 MoE 扩展的两大问题，据此使 700M 参数模型可稳定运行 5 次乃至 9-12 层循环，困惑度降至 16.54，并在 iso-FLOP 比较中反超标准 MoE。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月5日
- AGI HuntLOOM 让循环 MoE 稳定扩展至 9-12 层循环
LOOM 诊断出阻碍循环 MoE 扩展的两大问题，使 700M 参数模型可稳定运行 5 次乃至 9-12 层循环，困惑度降至 16.54，并在 iso-FLOP 比较中反超标准 MoE。循环 MoE 架构正受到关注，据报道 GPT-6 将采用，但社区质疑其在同等 FLOPs 下能否胜过标准 MoE，此前开源方案通常只循环两次。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。