Hugging Face 开放提示注入攻防挑战

2026 年 9 月 30 日有报道称，有作者在 Hugging Face Space（iseyan/can-you-trick-the-ai）发起了一项 prompt injection 攻防挑战，面向参与者征集攻击思路。按该报道的描述，挑战设定的成功条件并非仅仅让模型输出异常内容，而是要求参与者做到三点：让 AI 把谎言当作事实接受，突破校验门槛（gate），并最终造成一次未经授权的状态变更；只有完成这一连串效果，才算一次成功的攻击。报道同时把该挑战概括为「让 AI 把谎言当事实并突破校验门槛」。目前披露的信息仅来自这一篇报道，挑战的具体规则细节、参与结果与后续进展尚未见更多说明。

AI 根据报道生成 · 49 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。