APEX：自适应投机解码控制器加速LLM推理

2026年10月7日，arXiv cs.CL 刊出与 APEX 相关的论文报道。报道称，APEX 是一个学习型控制器，用于推测解码：在请求级，它在 EAGLE-3、n-gram 和草稿模型三种推测方式之间做专家选择；在块级，它自适应调整草稿长度。报道称，该设计的目标是平衡推测解码的速度与草稿 token 的浪费，即让推测解码更聪明，而非更深。截至该报道，文中未给出具体的基准测试数据、加速比，也未给出与其他方法的对比结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。