arXiv cs.CL· Shu Ishida, Aliasghar Khani, Tianyu Zhang, The Cong Luong, James Seale Smith, Adam Gaier·· 3 小时前AI 评分44
AutoIndexer:通过在编辑链上训练因果模型实现灵活顺序解码
AutoIndexer: Flexible-Order Decoding by Training Causal Models on Chains of Edits
AI 导读
AutoIndexer 用模拟 Chain of Edits 的训练与解码机制,让因果模型能通过 token 插入、替换和删除在事后灵活修改已生成的输出。训练序列由逆链式编辑扰动 ground-truth 标签得到,模型通过撤销这些逆操作学会编辑,可适配代码纠错等任务。该方法具备多数自回归与扩散模型所缺的生成后上下文编辑能力,且不牺牲标准 LLM benchmark 性能,代码已公开。
来源:arXiv cs.CL · arxiv.org