跳到正文
原文
AGI Hunt· johnhewtt·· 4 小时前AI 评分24

Anthropic 研究员激辩可解释性中定位方法是否必要

AI 导读

Anthropic 研究员 arunasank 与 johnhewtt 围绕可解释性研究中的「定位」方法是否必要展开争论。johnhewtt 认为 DoM(均值差)在定位层上表现更好,并不能为定位策略提供有力证据。arunasank 则称行为表现是中介变量有效的证据,并援引论文中的 ReFT 等梯度 steering 方法,指出这类方法无需定位即可生效。

来源:AGI Hunt · agihunt.info