AGI Hunt· repligate·· 3 小时前精选AI 评分68
America.gov 官网 AI 被「play Minecraft」诱导,泄漏思考链与系统提示词
让 America.gov 玩 Minecraft,泄漏思考链惊艳全网
AI 导读
多名网友在美国政府官网聊天门户 America.gov 输入「play Minecraft」,触发一连串异常输出,并泄漏了内部思考链与系统提示词。@Kyrannio 于 9 月 30 日率先晒出完整思考链,其中把用户称作 constituent,还要求填入社保卡上的法定姓名;系统提示词中「it thinks we are a chatbot」一句被截图疯传。
推荐理由
这起事件呈现了政府 AI 门户在提示注入下的失控输出,可作为观察系统提示词泄漏风险的样本。
来源:AGI Hunt · agihunt.info