AGI Hunt· UIUC-CS·· 3 小时前AI 评分56
UIUC 研究：LLM 供应链后门可扛过 SFT，攻击成功率从 20% 升至 76%
UIUC 研究:LLM 供应链后门可扛过 SFT,攻击成功率从 20% 升至 76%
AI 导读
UIUC 团队研究 LLM Agent 供应链后门威胁，发现植入第三方模型的后门能扛过良性后训练，其中良性 SFT 会大幅削弱后门，但随后的任务级 RL 往往保留残余行为，有时还使攻击成功率回升。
来源：AGI Hunt · agihunt.info