跳到正文
原文
AGI Hunt· antoine_chaffin·· 2 小时前AI 评分31

pplx-decider 新思路:多问题打包一次前向共享状态

AI 导读

pplx-decider 团队未走逐问缓存路线,而是把针对同一状态的多个问题打包进一次前向传播,做完全双向编码:所有问题共享同一条序列,每个问题各带一个读取标记,状态在多问题间共享、类似缓存。该方案在单问题场景下等价于 v1.1,能节省算力,但多问题打包的稳定性存在隐患。

来源:AGI Hunt · agihunt.info