AGI Hunt· augustkevinsanjaya·· 2 小时前AI 评分46
Agent 指令文件等同可执行代码却跳过代码审查,开源工具 Cairnlock 求解
AI 导读
有开发者指出,AGENTS.md 等 agent 指令文件实际在指导模型执行操作、效果等同可执行代码,却大多不经过任何代码审查,恶意或被污染的指令可直接影响 agent 行为。该开发者为此开源工具 Cairnlock(github.com/pennacle-security/cairnlock),并向社区征集大家如何处理这类风险。
来源:AGI Hunt · agihunt.info