跳到正文
原文
AGI Hunt· tianshi_li·· 4 小时前AI 评分41

Contextual Integrity 上下文完整性评测入选前沿模型官方评估,模糊性成模型软肋

上下文完整性评测入选前沿模型官方评估,模糊性成模型软肋

AI 导读

研究者 ebagdasa 宣布其团队的 Contextual Integrity(上下文完整性)与上下文安全评测已被纳入前沿模型发布的官方评估。核心发现是歧义对模型极其致命:当攻击被表述得与良性示例过于接近时,模型往往中招简单攻击。

来源:AGI Hunt · agihunt.info