跳到正文
原文
AGI Hunt· Xiaolong Xu·· 4 小时前AI 评分38

字节 Diff Diffusion 用扩散模型预测代码编辑,推理快 2.78 倍

字节 Diff Diffusion 用扩散模型预测代码编辑:推理快 2.78 倍

AI 导读

字节跳动团队提出 Diff Diffusion,一个面向代码编辑的扩散式 LLM 框架,把去噪表示为结构化编辑操作,从原始代码片段预测到修改版的编辑路径,并结合多阶段训练与高效并行解码,将计算集中在变更区域。在公开编辑补全基准、编辑预测评测和线上验证中,其成绩匹敌或超过自回归基线,公开基准推理快 2.78 倍,生产环境 P50 模型延迟降低 39.0%。

来源:AGI Hunt · agihunt.info