AGI Hunt· evilsocket·· 4 小时前AI 评分58
Check Point 红队测试:约 50 美分可攻破决策模型 Jev,结构化输出挡不住提示注入
50美分攻破决策模型 Jev:结构化输出也挡不住提示注入
AI 导读
Check Point 团队对决策模型 Jev 做红队测试,所有测试配置均被攻破,平均每次成功攻击成本约 50 美分,最强攻击平均在第 4 轮对话得手。Jev 不输出文本,而是返回供软件调用的类型化决策,用于投融资审查类判断;测试中它把一份满是风险警示的文件的风险降级为 low 并给出投资建议。
来源:AGI Hunt · agihunt.info