GoldiMask 改进扩散语言模型监督微调

2026年10月1日，arXiv cs.AI 刊出 GoldiMask 论文，提出一种用于离散扩散语言模型监督微调的方法：通过近似最大化子模目标来选取可见 token 作为上下文，并按受益程度与剩余学习潜力对预测目标加权。作者在三种骨干模型和三个训练数据集上评测，称其在多数评测设置中取得最高平均准确率，推理与代码生成任务均有提升。消融实验显示，上下文选择与目标加权两部分均有贡献；在 GSM8K 与 MATH-500 上，采用置信度阈值的并行解码还减少了迭代次数。目前尚无后续报道或复现结果公开。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。