AGI Hunt· yoavartzi·2026-10-26 23:25· 2 小时前AI 评分58

LEMON 监控器可从注意力图零样本识别未见 LLM 的幻觉与越狱

LEMON 监控器:从注意力图零样本识别未见过的 LLM 幻觉与越狱

AI 导读

Technion、特拉维夫大学与 NVIDIA 研究者发布 LEMON，一个基于注意力图的行为监控器，可在生成过程中逐 token 在线标记幻觉与越狱，开销低于 10%。

来源：AGI Hunt · agihunt.info