跳到正文
原文
AGI Hunt· locailabs·· 2 小时前AI 评分45

NEEDLE 免训练移除 LLM 后门:代码注入攻击成功率降至 0%

NEEDLE 免训练移除 LLM 后门:代码注入攻击成功率降至 0%

AI 导读

Locai Labs 开源免训练后门移除方法 NEEDLE,代码注入攻击成功率(ASR)降至 0%。该方法先识别触发器,用激活向量估计后门方向与拒绝子空间,再施加序贯权重正交化,无需干净参考模型,也无需原始投毒训练数据。在多个模型家族与攻击类型上,NEEDLE 取得所评估防御中最低平均 ASR,且 KL 散度最低,能力与安全性变化最小。

来源:AGI Hunt · agihunt.info