AGI Hunt· Extreme_Ad5709·· 3 小时前AI 评分39
本地 agent 安全护栏宕机时,工具调用该放行、拦截还是等人?
安全护栏宕机时,agent 工具调用该放行、拦截还是等人?
AI 导读
一位开发者分享本地 agent 安全护栏的两难:每个工具调用先过正则和一个小模型审查,可护栏服务器宕机时,正则覆盖不到的调用会全部放行(fail-open),改用 fail-closed 又可能因忘记启动服务器让几乎所有调用被拒。
来源:AGI Hunt · agihunt.info