Langford 团队新论文：免费暂停 token 实现状态-预测分离，推理零开销

John Langford 团队在 arXiv 论文《Almost Free State Prediction Separation》中用不写 key/value 的「免费暂停 token」把预测流搭在序列已有位置，让状态-预测分离（SPS）几乎零成本，推理时零额外上下文、零 KV cache、零解码步、几乎零延迟。