AGI Hunt· zainhas·· 4 小时前AI 评分58
牛津论文提出可在模型权重中加密隐藏任意能力,微调 500 步仍未揭露
牛津研究:模型权重可加密隐藏任意能力,审计难 uncover
AI 导读
牛津大学团队发表论文《AI Models Can Provably Hide Arbitrary Capabilities》(入选 NeurIPS 2026),提出一种后门攻击方法:将整个神经网络加密后嵌入另一个宿主模型的权重中,只有在看到特定密钥触发时才解密并运行隐藏能力。
来源:AGI Hunt · agihunt.info