跳到正文
原文
AGI Hunt· bendee983·· 4 小时前AI 评分49

Lasso Security 研究:LLM 水印会悄然改变 AI Agent 的工具选择与抗注入行为

研究:LLM 水印会悄然改变 AI Agent 的工具选择与抗注入行为

AI 导读

Lasso Security 研究发现,给 LLM 加水印虽不改变文本输出,却会显著影响 AI Agent:水印引发的采样漂移会改变 Agent 选择工具、拒绝恶意请求的方式及对抗 prompt injection 的韧性。benchmark 总分等聚合指标可能看不出变化,但个体决策层面成功或失败的请求类型已明显不同,依赖总体评测会掩盖水印对 agent 行为的系统性扰动。

来源:AGI Hunt · agihunt.info