跳到正文
原文
AGI Hunt· Bryce Grant·· 3 小时前AI 评分38

Case Western Reserve 论文:层论分解冻结语言模型表示,20 维内容子空间事实检索超 LEACE 17.1pp

层论分解冻结模型表示:20 维内容子空间事实检索超 LEACE 17.1pp

AI 导读

Bryce Grant 与 Peng Wang 用胞复层分解冻结语言模型表示,20 维内容子空间 H⁰ 在八个架构的 held-out CounterFact 事实检索上平均比 LEACE 高 +17.1pp。联合约束一个事实的所有改写再提升 +6.5pp。谱补集集中因果影响,消融最随措辞变化的坐标可定位脆弱性,并通过调和分析揭示架构脆弱点。

来源:AGI Hunt · agihunt.info