预填充决策模型的读出稳定性研究

2026年10月7日，arXiv cs.CL 发布一项研究，关注受 Jev 启发的 prefill-only（仅预填充）决策模型。这类模型一次前向即可为候选打分、无需解码，成本比同规模生成式语言模型低 1–2 个数量级。该研究考察其读出稳定性：在仅改变候选菜单的情况下，缓存的首次前向分布即可在无标签条件下预测准确率。作者称在 7 个模型家族、10 个数据集上验证，预测误差在 4.2 分以内。此为目前唯一一篇相关报道，尚无后续进展或同行评议信息。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。