跳到正文
原文
arXiv cs.CL· Longxuan Yu, Bingsen Chen, Peng Shi, Dongkyu Lee, Yi Xiang, Hideo Kobayashi, Sheng Zhang, Shuaichen Chang, Xing Niu, Zhuoyan Xu, Greg Ver Steeg, Jiarong Jiang·· 8 小时前AI 评分45

DEdit:面向推测解码的迭代草稿编辑

DEdit: Iterative Draft Editing for Speculative Decoding

AI 导读

DEdit 是一种基于扩散模型的推测解码草稿器,能通过 token-to-token 预测迭代编辑草稿,修复早期错误并延长已接受前缀。在 Qwen3-4B 和 Qwen3-8B 的七个基准上,greedy 解码下宏平均加速分别达 5.72× 和 5.97×。其 ProposalMix 训练方案按首轮置信度混合草稿预测与 ground-truth token,将缩短已接受前缀的有害编辑减半。

来源:arXiv cs.CL · arxiv.org