跳到正文
原文
AGI Hunt· antoine_chaffin·· 2 小时前AI 评分29

多问题打包单次前向传播:省算力但稳定性存隐患

AI 导读

把同一状态的多个问题打包进单次前向传播(全双向)的方案:所有问题共享一条序列、各带一个读取标记,单问题场景等价于 v1.1,多问题时状态共享类似缓存,借助 Qwen 架构可处理很长的多问题输入。代价是决策结果依赖被打包在一起的问题组合,不同运行间打包不一致时结果不够稳定,问题相互冲突时还可能带来负面影响。

来源:AGI Hunt · agihunt.info