techNmak 发布推测解码原理手册

2026 年 10 月 3 日，AGI Hunt 报道称 techNmak 发布了推测解码（speculative decoding）原理手册。手册讲解该方法的运行机制：用一个成本更低的小模型充当 proposer，为目标大模型并行起草多个 token，再由目标模型依据 min(1, p/q) 接受规则对候选 token 逐一验证，从而在保持输出分布不变的前提下加速生成。手册还结合参数对实际加速效果做了分析，指出即使接受率 α 达到 0.8，也可能只获得约 1.87× 的加速。截至该报道，事件仅涉及手册的发布与内容介绍，尚无后续更新或与之不一致的说法。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。