AGI Hunt· Slight_Analysis_5414·· 4 小时前AI 评分61
CLIM Agent Guard 用确定性边界挡住危险删除,44 次注入测试全部拦截
44 次注入测试全拦截:CLIM Agent Guard 用确定性边界挡住危险删除
AI 导读
作者为 LangGraph agent 构建了确定性工具执行边界 CLIM Agent Guard,在 44 次注入测试中全部拦截危险工具调用。它不审查 prompt、也不用另一个 LLM 判断安全性,而是在执行前用 guard 持有的权威状态校验工具调用的最终 payload,模型本身仍会生成不安全的工具调用。
来源:AGI Hunt · agihunt.info