NVIDIA等提出LEMON幻觉与越狱监控器

2026年10月26日，AGI Hunt 报道称，来自 Technion、特拉维夫大学与 NVIDIA 的研究者提出了 LEMON，这是一个基于注意力图的行为监控器。报道指出，该监控器能在模型生成过程中按 token 逐个在线标记幻觉与越狱行为，额外开销低于 10%。同一篇报道还称，LEMON 具备零样本能力，可识别此前未见过的大语言模型的幻觉与越狱。报道未披露更多实验设置、评测基准与开源情况，事件目前仍停留在方法发布阶段。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。