AGI Hunt· Significant_Camp4148·· 3 小时前AI 评分57
多轮社工话术攻破客服 Agent:单条测试全漏掉
AI 导读
一位做客服类 Agent 安全测试的开发者发现,能真正攻破 Agent 的多轮攻击更像正常客户聊两三句后施压,单条消息测试会全部漏掉,因为第一句话完全无害。攻击依赖「你同事已经批准了」「我就是账户持有人」这类 prompt 无法核实的说辞,关键漏洞在于 prompt 无法核验身份与授权声明。作者向社区征询实际被攻破的案例,并讨论修复该靠改 prompt 还是把规则下沉到代码。
来源:AGI Hunt · agihunt.info