AGI Hunt· colinmcnamara·· 3 小时前AI 评分44
开发者实测:路由规则只挡下不到 1/4 prompt injection,需引入 guard 模型
开发者实测路由规则难挡 prompt injection,需 guard 模型
AI 导读
colinmcnamara 在 AustinLangChain 演讲中实测自家 router 抵御 prompt injection 的能力,其现行模式规则只能拦截不到四分之一的注入攻击。他由此得出结论:基于规则的路由无法有效防御 prompt injection,需引入 guard 模型才能真正应对。演讲完整视频已放出。
来源:AGI Hunt · agihunt.info