AGI Hunt· benno_krojer·· 3 小时前AI 评分26
可解释性研究遭遇数据评估难题:lens 评估难,好方法论文常带数据贡献
可解释性研究遭遇数据评估难题
AI 导读
一位从数据与评测方向转向可解释性(interpretability)的研究员 benno_krojer 指出,该领域正重演数据中心的评估难题:要正确评估一个能揭示模型「内心想法」的 lens 非常困难。他随后补充称看法有所变化——近期不会写纯评测或数据类论文,但观察到许多优秀的方法类或可解释性论文本身都附带数据贡献,数据工作与 interp 方法研究并非彼此对立。
来源:AGI Hunt · agihunt.info