跳到正文
原文
AGI Hunt· emmanuelvivier·· 3 小时前AI 评分42

Microsoft 为 Copilot 加装确定性隔离层,专防 prompt injection

Microsoft 为 Copilot 加装确定性隔离层,专防 prompt injection

AI 导读

微软宣布强化 Copilot 的安全架构,新增一层确定性隔离机制,用于阻止针对 AI agent 的 prompt injection 攻击与 agent 劫持。这是继业界多起 agent 安全事件后,大厂在产品层面针对 prompt injection 给出的系统性防御方案。

来源:AGI Hunt · agihunt.info