扩散语言模型引热议：速度快但难任务仍逊自回归

掩码扩散语言模型成为社区讨论焦点：它可在一次前向中并行预测多个未定位置、再按置信度逐步提交，速度可快一倍，但难任务通过率仅约 60%。同一轮提交的位置无法互相作为依赖，构成结构缺陷。Comet 发布长文《Diffusion Language Models, From Scratch to Production》，从零到生产梳理其架构取舍，并展望 2026 年语言模型架构方向。