跳到正文
原文
arXiv cs.AI· Tong Che, Yilong Li·· 4 小时前AI 评分40

LLM 是否真的在使用该特征?区分 steering 与机制

Does the Model Use the Feature? Separating Steering from Mechanism in LLMs

AI 导读

追踪概念、操纵行为并不足以证明 LLM 使用了某内部特征:研究提出在自然输入观测值上检验的经验性契约,用 installation 测特征对行为的充分性,用 removal 与 downstream rescue 测模型的实际使用程度。已发表的 unknown-entity latent 安装观测值后,只转移自然已知—未知弃答对比的一小部分。

来源:arXiv cs.AI · arxiv.org