跳到正文
热点事件持续更新

扩散语言模型与自回归模型算力差距缩至3倍

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

扩散语言模型与自回归模型的算力差距,此前有报道称约为17.8倍(该报道中也提到「原16倍的数字」)。2026年10月16日的报道称,这一差距来自过时的评测设定:「全序列 decoder-only 掩码模型 + ELBO 评分」。研究者逐项改动评测设定,改用精确似然(DUEL)替代 ELBO 后,差距降至12.8倍;再经多项优化,先后降到9.6倍和7.8倍;当 block size 降到4时,差距进一步降到3.0倍。报道称,四项改动合计把这一算力差距从17.8倍压缩到3.0倍。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. AGI Hunt
    四项改动把扩散语言模型与自回归模型的算力差距从 17.8 倍降至 3 倍

    研究者逐项改动扩散语言模型的评测设定,把其与自回归模型的算力差距从 17.8 倍压缩到 3.0 倍。原 16 倍的数字来自「全序列 decoder-only 掩码模型 + ELBO 评分」的过时设定,改用精确似然(DUEL)替代 ELBO 后差距降至 12.8 倍,再经多项优化到 9.6 倍和 7.8 倍,block size 降到 4 时进一步降到 3.0 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。