跳到正文
热点事件持续更新

Prefix Sliding:免训练长推理提速3倍

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月14日,AGI Hunt 报道了一篇 arXiv 新论文 Prefix Sliding,提出一种免训练的长推理加速方法。其做法是:推理时只保留由关键指令与工具信息组成的「前缀」,以及最近几千 token 的滑动窗口,中间推理 token 直接丢弃。报道称,该方案使现有模型提速 3 倍且性能不掉;配合 RL 训练可把推理轨迹扩展到超过 10 万 token。消融实验显示其效果优于中间 token 摘要与朴素滑窗。代码已开源。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. AGI Hunt
    Prefix Sliding 论文:免训练令长推理提速 3 倍,打破记忆上限

    arXiv 新论文 Prefix Sliding 提出免训练的长推理加速方法:推理时只保留关键指令与工具信息组成的「前缀」和最近几千 token 的滑动窗口,其余中间推理 token 直接丢弃。该方案让现有模型提速 3 倍且性能不掉,配合 RL 训练可扩展到超过 10 万 token 的推理轨迹,消融效果优于中间 token 摘要与朴素滑窗,代码已开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。