语言模型中稀有事件估计的加权集成（WE）采样

研究者提出 Weighted Ensemble（WE）——一个无需训练的框架，用于估计语言模型的稀有事件概率。WE 只从原始语言模型采样，周期性把采样预算重新分配给更可能到达目标稀有事件的前缀，并利用 LLM 内部表示作为前缀级信号，无需额外学习 proposal 分布。在覆盖小规模与现代大规模 LLM 的安全相关任务上，WE 提升了稀有事件概率估计的效率与可靠性。