跳到正文
原文
AGI Hunt· Extreme_Ad5709·· 3 小时前AI 评分39

本地 agent 安全护栏宕机时,工具调用该放行、拦截还是等人?

安全护栏宕机时,agent 工具调用该放行、拦截还是等人?

AI 导读

一位开发者分享本地 agent 安全护栏的两难:每个工具调用先过正则和一个小模型审查,可护栏服务器宕机时,正则覆盖不到的调用会全部放行(fail-open),改用 fail-closed 又可能因忘记启动服务器让几乎所有调用被拒。

来源:AGI Hunt · agihunt.info