AGI Hunt· amazon·· 7 小时前AI 评分39
亚马逊提出 ALoDLM:按 token 难度自适应分配循环深度
亚马逊提出ALoDLM:按token难度自适应分配循环深度
AI 导读
亚马逊提出 ALoDLM,用 token 级自适应隐式循环按难度分配扩散语言模型的去噪算力。训练时将 token 级计算调度建模为隐变量,用条件负证据下界(NELBO)联合学习预测与算力分配。在 1.7B 和 8B 两个规模上,ALoDLM 在 11 项基准的平均分超过所有受评 DLM 及对应 AR 基线,并保留快速并行解码。
来源:AGI Hunt · agihunt.info