AGI Hunt· Yifan Lan·· 3 小时前AI 评分43
DecisionRobust 基准:评测 30 个决策模型抗 prompt 注入与扰动能力
DecisionRobust 基准:评测 30 个决策模型抗 prompt 注入与扰动能力
AI 导读
宾州州立大学团队发布 DecisionRobust 基准,评测 JEV 类决策模型在文本与视觉输入下遭对抗操纵时的可靠性,覆盖 30 个文本模型配置与 17 个视觉模型配置(含 24/12 个 held-out 模型)。攻击可泛化到构建模型之外,但优化图像扰动迁移性较弱;抗输入扰动不等于抗 prompt 注入,标签一致性校验可大幅降低表观攻击成功率。基准已开源。
来源:AGI Hunt · agihunt.info