Jacobian Lens 视频详解：给 LLM 装上「测谎仪」读出真实意图

一段在 Reddit 与 YouTube 流传的可视化视频讲解了 Jacobian Lens 方法。该方法通过分析 LLM 内部表征中与 Jacobian 相关的信号，在不依赖模型自述的情况下判断模型「真正相信什么」，如同给大模型装上测谎仪。该视频被视为理解 AI 内部思维的可视化尝试。