跳到正文
原文
AGI Hunt· lucasbennett_1·· 2 小时前AI 评分61

Prompt injection 已是信息流问题,多数 Agent 框架还当内容过滤来防

AI 导读

作者 lucasbennett_1 认为,多数 Agent 框架仍把 prompt injection 当作内容过滤问题,但工具型 agent 的真实风险已转移到信息流层面,核心不在于网页是否恶意,而在于不可信来源是否影响了特权参数,比如决定邮件收件人或数据库工具参数的文本。

来源:AGI Hunt · agihunt.info