arXiv cs.AI· Tong Che, Yilong Li·· 4 小时前AI 评分40
LLM 是否真的在使用该特征?区分 steering 与机制
Does the Model Use the Feature? Separating Steering from Mechanism in LLMs
AI 导读
追踪概念、操纵行为并不足以证明 LLM 使用了某内部特征:研究提出在自然输入观测值上检验的经验性契约,用 installation 测特征对行为的充分性,用 removal 与 downstream rescue 测模型的实际使用程度。已发表的 unknown-entity latent 安装观测值后,只转移自然已知—未知弃答对比的一小部分。
来源:arXiv cs.AI · arxiv.org