四项改动把扩散语言模型与自回归模型的算力差距从 17.8 倍降至 3 倍

研究者逐项改动扩散语言模型的评测设定，把其与自回归模型的算力差距从 17.8 倍压缩到 3.0 倍。原 16 倍的数字来自「全序列 decoder-only 掩码模型 + ELBO 评分」的过时设定，改用精确似然（DUEL）替代 ELBO 后差距降至 12.8 倍，再经多项优化到 9.6 倍和 7.8 倍，block size 降到 4 时进一步降到 3.0 倍。