arXiv cs.CV· Gexin Huang, Haisheng Fu, Yanting Yang, Chen Zhao, Ruinan Jin, Jiaqi Liu, Xiaoxiao Li·· 4 小时前AI 评分35
VLMProbe：面向 VLM 探测与解释的开源库
VLMProbe: An Open-source Library for VLM Probing and Interpretation
AI 导读
vlmprobe 开源库将 lens 读出、注意力归因、因果干预与 SAE 分析集成在同一模型接口，并配套适配器、校准、checkpoint 与评测可视化工具。跨视觉语言、语言与视觉模型的对照实验显示，表征读出与空间解释依赖分析目标和观测位置，局部归因估计可能与实测干预效果不一致。SAE 评测还暴露重建保真度、概念读出与空间定位之间的权衡。
来源：arXiv cs.CV · arxiv.org