NSD：核采样放松式投机解码验证方法

2026年10月7日，arXiv cs.CL 刊出一篇论文，提出 Nucleus Speculative Decoding（NSD），一种核采样放松式的投机解码验证方法。按报道所述，传统投机解码验证通常要求草稿 token 严格符合目标模型的精确分布，而 NSD 放宽了这一判据：草稿 token 只要满足标准接受规则，或者落在目标模型的 nucleus（核）之内，就可以被接受。论文将这一思路表述为“超越精确分布的合理性感知验证”，即以 nucleus 作为可接受的合理性范围，而不再把精确分布当作唯一标准。目前可见的报道仅介绍该方法本身，未提及实验数据、评测结果或后续进展。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。