跳到正文
原文
AGI Hunt· akbirthko·· 2 小时前AI 评分50

Varun Neal:文本扩散模型将成为 LLM 推理的未来

AI 导读

Varun Neal 发表长文,主张文本扩散模型将成为 LLM 推理的未来。他认为扩散在推理效率、test-time scaling 和 RL 上优于自回归模型,转换成本已很低。生成 P 个 token 只需 K 次前向传播,DiffusionGemma 生成 256 token 最多 48 步去噪、平均约 12 步。

来源:AGI Hunt · agihunt.info