arXiv cs.CL· Giang Son Nguyen, Wray Buntine, Dung D. Le, Wenya Wang·· 3 小时前AI 评分44
“Not”未在翻译中丢失：多语言 LLM 否定表征的因果分析
"Not" is Not Lost in Translation: A Causal Analysis of Negation Representations in Multilingual LLMs
AI 导读
对 6 个开源模型在英语、法语、越南语和中文上的因果干预分析显示，多语言 LLM 的否定表征在很大程度上跨语言共享，并且可以被因果控制。从一种语言中提取的对比激活方向，可以诱导或消除其他语言中的否定，而且不同语言提取的方向高度对齐。每个模型只需一个稀疏自编码器（SAE）特征，就能跨语言控制否定极性；干预还泛化到另外四种语言和由 FLORES 衍生的句子。
来源：arXiv cs.CL · arxiv.org