跳到正文
原文
AGI Hunt· Informal-Winter-3190·· 2 小时前AI 评分49

Hugging Face 开放 prompt injection 挑战:让 AI 把谎言当事实并突破校验门槛

让 AI 把谎言当事实并骗过护栏,Hugging Face 开放注入挑战

AI 导读

有作者在 Hugging Face Space(iseyan/can-you-trick-the-ai)发起 prompt injection 攻防挑战,要求参与者让 AI 把谎言当作事实接受,并突破校验门槛(gate),最终造成一次未经授权的状态变更才算攻击成功。

来源:AGI Hunt · agihunt.info