arXiv cs.CL· Shuhao Li, Fanghua Ye, Wanyu Lin, Tianyu Yuan, Xiaoyu Shen·· 4 小时前AI 评分39
Nucleus Speculative Decoding：超越精确分布的合理性感知验证
Nucleus Speculative Decoding: Plausibility-Aware Verification Beyond Exact Distribution
AI 导读
Nucleus Speculative Decoding（NSD）提出一种放宽的投机解码验证方法：草稿 token 只要满足标准接受规则，或落在目标模型的 nucleus 内，即可被接受。
来源：arXiv cs.CL · arxiv.org