AGI Hunt· lucasbennett_1·· 2 小时前AI 评分61
Prompt injection 已是信息流问题,多数 Agent 框架还当内容过滤来防
AI 导读
作者 lucasbennett_1 认为,多数 Agent 框架仍把 prompt injection 当作内容过滤问题,但工具型 agent 的真实风险已转移到信息流层面,核心不在于网页是否恶意,而在于不可信来源是否影响了特权参数,比如决定邮件收件人或数据库工具参数的文本。
来源:AGI Hunt · agihunt.info