techNmak 发布推测解码原理手册：并行起草与 min(1, p/q) 接受规则详解

techNmak 发布推测解码（speculative decoding）原理手册，讲解如何用更便宜的小模型作为 proposer 为目标大模型并行起草多个 token，再依据 min(1, p/q) 接受规则验证，在保持输出分布不变的前提下加速生成。手册还结合参数分析实际加速效果，指出即便 α=0.8 也可能只获得约 1.87× 的加速。