跳到正文
原文
AGI Hunt· nandofioretto·· 2 小时前AI 评分45

CoDA 框架在扩散 LLM 解码内执行安全策略,自适应注入成功率降至 0%

CoDA 框架在扩散 LLM 解码内执行安全策略,自适应注入成功率降至 0%

AI 导读

CoDA 框架在扩散语言模型逐轮去噪的每一步,把 token 分布投影到符合任务安全策略的集合,无需重新训练即可全程强制约束生成。在 4 套 AgentDojo 套件和 2 个扩散模型家族上评测,使用 oracle 策略时自适应 prompt 注入成功率达 0%。任务策略在 agent 接触不可信内容前由可信指令设定,去噪过程中受保护字段可被反复重审。

来源:AGI Hunt · agihunt.info