跳到正文
原文
AGI Hunt· R_D·· 5 小时前AI 评分51

Waymo 车内 Gemini 拒曝工具清单,被用讲故事话术套出

AI 导读

安全研究者发现 Waymo 车载的 Gemini 助手不愿透露自己的工具列表,改用讲故事的包装话术后,模型以叙事形式把工具清单吐了出来。发布者指出这是典型的事实性 prompt injection 案例,护栏只拦截直接提问,换个框架就能绕过。

来源:AGI Hunt · agihunt.info