AGI Hunt· OpenSAE·· 2 小时前AI 评分40
威斯康星-麦迪逊新论文提出 RSS 评分,破解 SAE 特征重分布难题
威斯康星-麦迪逊新论文提出 RSS 评分,破解 SAE 特征重分布难题
AI 导读
威斯康星-麦迪逊大学团队发表论文,提出「重分布敏感度评分」(RSS),用于识别 SAE 中沿一致方向反复出现的大幅特征响应。在覆盖 8 个语言模型的 27 个预训练 SAE 上,prompt 变换产生了可复现的重分布轮廓。在两个冻结的安全读出上,结合 RSS 支持侵蚀与完整干净边距,用中位数 20/10 个特征即取得 0.935/0.958 的复发性失败 AUROC。
来源:AGI Hunt · agihunt.info