多问题打包进单次前向传播以省算力
先了解这件事
2026年10月17日,AGI Hunt 报道 pplx-decider 的新思路:把同一状态下的多个问题打包进单次前向传播,做完全双向编码。所有问题共享一条序列并各带 readout 标记,状态跨问题共享以充当缓存;得益于 Qwen 架构,多问题拼接的超长输入不会撑爆显存,相比不缓存有很大提速。作者称单问题场景下该方案等价于 v1.1,并发现相关问题交叉编码有额外收益,表格量化出 +11.3 等提升。同一批报道也给出代价:决策结果依赖被打包在一起的问题组合,不同运行间打包不一致时结果不够稳定,问题相互冲突时还可能带来负面影响。其后再一篇同日报道重述了上述方案与隐患,未补充新的数据或结论。
AI 根据报道生成 · 48 分钟前更新
报道时间线
沿着报道,了解事件的不同侧面。
- AGI Hunt多问题打包单次前向传播:省算力但稳定性存隐患
把同一状态的多个问题打包进单次前向传播(全双向)的方案:所有问题共享一条序列、各带一个读取标记,单问题场景等价于 v1.1,多问题时状态共享类似缓存,借助 Qwen 架构可处理很长的多问题输入。代价是决策结果依赖被打包在一起的问题组合,不同运行间打包不一致时结果不够稳定,问题相互冲突时还可能带来负面影响。
- AGI Huntpplx-decider 新思路:多问题打包一次前向共享状态
pplx-decider 团队未走逐问缓存路线,而是把针对同一状态的多个问题打包进一次前向传播,做完全双向编码:所有问题共享同一条序列,每个问题各带一个读取标记,状态在多问题间共享、类似缓存。该方案在单问题场景下等价于 v1.1,能节省算力,但多问题打包的稳定性存在隐患。
- AGI Huntpplx-decider 新思路:同一状态的多问题共享序列一次前向
pplx-decider 新方案将同一状态的多问题打包进一次前向传播,做完全双向编码:所有问题共享序列并各带 readout 标记,状态跨问题共享以充当缓存。单问题时等价于 v1.1;得益于 Qwen 架构,多问题拼接的超长输入不会撑爆显存,相比不缓存有很大的提速。作者发现相关问题交叉编码有额外收益,表格量化出 +11.3 等提升,但结果依赖打包方式,问题冲突时可能有害。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。