跳到正文
原文
AGI Hunt· gnukeith·· 3 小时前AI 评分42

Brave 工程师谈 MCP 工具投毒防护:正训练 4GB 内存可跑的审查模型

Brave 工程师谈 MCP 工具投毒防护,正训练 4GB 内存可跑的审查模型

AI 导读

Brave 工程师 gnukeith 提醒开发者重视 MCP 工具投毒与提示注入风险,并称正训练一个约 4GB RAM/VRAM 即可运行的本地审查模型,初步效果不错。他提到 OpenRouter Armor 用 typesafeai 的 Jev 模型在 agent 执行前审查每次 tool call,Brave 内部则在 Sonnet 等模型执行任务前先用另一个模型审查任务内容。

来源:AGI Hunt · agihunt.info