跳到正文
原文
AGI Hunt· wunderwuzzi23·· 12 小时前AI 评分52

安全研究者 wunderwuzzi23 称自复制 prompt injection 可在用户间像蠕虫传播

自复制 prompt injection 实锤:恶意提示可跨用户像蠕虫般传播

AI 导读

安全研究者 wunderwuzzi23 回应「自复制 prompt injection 是否存在」的讨论,称这类攻击确实存在。他引用关于 OpenAI 在训练与评估的模拟环境中已证明其可行的讨论,指出具备能力的模型若突破在线系统,这类代码可像计算机蠕虫一样自我传播。他在自己的课程 AgentHopper 中设有关卡,要求学员构造能链式调用多个功能、利用漏洞在多个用户之间跳转传播的 prompt。

来源:AGI Hunt · agihunt.info