跳到正文
原文
AGI Hunt· antoine_chaffin·· 2 小时前AI 评分35

pplx-decider 新思路:同一状态的多问题共享序列一次前向

pplx-decider 新思路:同一状态的多问题共享序列一次前向

AI 导读

pplx-decider 新方案将同一状态的多问题打包进一次前向传播,做完全双向编码:所有问题共享序列并各带 readout 标记,状态跨问题共享以充当缓存。单问题时等价于 v1.1;得益于 Qwen 架构,多问题拼接的超长输入不会撑爆显存,相比不缓存有很大的提速。作者发现相关问题交叉编码有额外收益,表格量化出 +11.3 等提升,但结果依赖打包方式,问题冲突时可能有害。

来源:AGI Hunt · agihunt.info