AGI Hunt· jacob_posel·· 3 小时前AI 评分47
微软、Anthropic、OpenAI 齐转向 Hook 级 Agent 安全，实时拦截工具调用
微软 Anthropic OpenAI 齐转向 Hook 级 Agent 安全,实时拦截工具调用
AI 导读
微软、Anthropic、OpenAI 均已转向 Hook 层 Agent 安全架构，在工具调用、输入或 bash 命令上实时运行机器学习模型做判断，于运行时强制执行安全策略。这一架构的隐患是：若不留意，会生成 PB 级日志。
来源：AGI Hunt · agihunt.info