跳到正文
原文
AGI Hunt· pmttyji·· 3 小时前AI 评分44

WaveFront 解码让循环语言模型提速最高 4.81 倍,无需训练

WaveFront 解码让循环语言模型提速最高 4.81 倍,无需训练

AI 导读

WaveFront Decoding(WFD)是一种面向循环语言模型的免训练自推测解码框架,把中间递归输出用作草稿预测,并将混合深度状态排成对角波前,在同一批递归调用中并发起草与验证。

来源:AGI Hunt · agihunt.info