跳到正文
原文
AGI Hunt· lulzxdxdxd·· 3 小时前AI 评分61

实测 15 款 Prompt 注入检测器:最佳工具仅拦下 2% 真实 Agent 注入攻击

实测 15 款注入检测器:最佳工具仅拦下 2% 真实 Agent 注入攻击

AI 导读

arXiv 论文 2610.03448 对 15 个 prompt injection 检测器与 3 个基准做了系统评测,表现最好的检测器在真实 Agent 场景的注入攻击下也仅拦截约 2%。评测结论认为,现有防御手段与实际威胁之间存在巨大差距。

来源:AGI Hunt · agihunt.info