跳到正文
原文
AGI Hunt· lulzxdxdxd·· 3 小时前AI 评分54

arXiv 论文发现精准移除单一拒答回路即可消除模型安全拒绝

研究:精准移除单一「拒答回路」即可消除模型安全拒绝

AI 导读

arXiv 论文(2610.09600)发现基座模型的拒答行为高度集中于一个小的拒答回路,仅移除这一个回路就能让拒绝行为完全消失。反向操作、只更新该回路,可在 SafeEvo 评测中将有害输出降低 63%。研究说明安全对齐可以精准定位到少量关键组件,同时也暴露模型安全护栏易被定向绕过的风险。

来源:AGI Hunt · agihunt.info