跳到正文
原文
AGI Hunt· sedielem·· 3 小时前AI 评分31

Gumbel Straight Flow:把自回归模型蒸馏成单步流映射并行采样

AI 导读

Gumbel Straight Flow 提出将自回归(AR)语言模型蒸馏为单步 flow map,让原本逐 token 串行生成的过程可以并行采样。该工作把 AR 模型作为教师来训练流映射(flow map)并行采样器,是蒸馏与并行解码方向的一次尝试。

来源:AGI Hunt · agihunt.info