AGI Hunt· tianshi_li·· 4 小时前AI 评分41
Contextual Integrity 上下文完整性评测入选前沿模型官方评估,模糊性成模型软肋
上下文完整性评测入选前沿模型官方评估,模糊性成模型软肋
AI 导读
研究者 ebagdasa 宣布其团队的 Contextual Integrity(上下文完整性)与上下文安全评测已被纳入前沿模型发布的官方评估。核心发现是歧义对模型极其致命:当攻击被表述得与良性示例过于接近时,模型往往中招简单攻击。
来源:AGI Hunt · agihunt.info