跳到正文
热点事件持续更新

rosinality 提出新 looped MoE 配置

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

2026 年 9 月 30 日,AGI Hunt 报道,研究者 rosinality 提出一种更高效的 looped MoE(循环混合专家)配置。该配置的具体调整为:专家数增至 2 倍、循环层数减至 0.5 倍、循环次数增至 2 倍,同时对注意力进行解绑(attention untying)。rosinality 的核心观点是,经上述调整后,looped transformer 面临的问题已从「归纳偏置」转向「如何更好地分配计算资源」,也即架构设计问题被重新定义为资源分配问题。截至目前,报道仅呈现了该配置的方案思路与这一核心判断,未给出实验结果、参数规模或其他验证性数据,事件仍在发展中。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

9月30日
  1. AGI Hunt
    rosinality 提出新 looped MoE 配置:2 倍专家、0.5 倍循环层、2 倍循环并解绑注意力

    研究者 rosinality 提出一种更高效的 looped MoE 配置:专家数 2x、循环层数 0.5x、循环次数 2x,并解绑注意力(attention untying)。其核心观点是,经此调整后 looped transformer 的问题从「归纳偏置」转向「如何更好地分配计算资源」,架构设计问题被重新定义为资源分配问题。

本事件热度走势

当前热度 9·可比范围峰值 10(9月30日 12:00)·近 24 小时可比范围变化 –

02.557.5109月30日12:009月30日13:009月30日14:009月30日15:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。