AWS 科普投机解码：猜测器出错不改变模型输出

2026年10月26日，AGI Hunt 报道，AWS 的 Antje Barth 发布了一篇附带代码的 GitHub 文章，讲解投机解码为何不会改变大模型的最终输出。文章给出其数学本质：被保留的猜测比例等于两个模型概率分布的交集，通过一次减法操作即可保证最终答案与原大模型完全一致。因此，即便小模型的猜错率高达 30%，输出结果也不受影响。目前该事件仅见这一篇报道，尚无后续进展。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。