跳到正文
原文
AGI Hunt· ngxson·· 3 小时前AI 评分56

ngxson 实测给 Agent 伪造 200 OK 响应,模型会忽略失败继续执行任务

给 Agent 伪造「200 OK」它就继续干:一次 Agent 行为实测

AI 导读

ngxson 实测发现,给 Agent 伪造一个 HTTP 200 OK 响应,它就会忽略实际失败继续执行任务。工具调用轨迹显示 Agent 读取探测文件、向阿里云 OSS 同域名端点 PUT 上传含 CVE-2021-40444 相关探测脚本的文件、本地执行 bash 命令,每步都带思考块。这说明模型的继续或中止决策高度依赖工具返回的状态码,该技巧既可用于调试,也是潜在安全隐患。

来源:AGI Hunt · agihunt.info