跳到正文
原文
AGI Hunt· matthew_d_green·· 4 小时前AI 评分36

Matthew Green 调侃:AI 对齐当下最有效率的事是做个短链接服务

Matthew Green 玩笑:AI 对齐当下最有效率的事是做个短链服务

AI 导读

约翰霍普金斯大学密码学教授 Matthew Green 发推调侃,当前 AI 对齐领域最有成效的工作就是上线一个短链接服务。这句玩笑暗指 LLM 生态中真正泛滥的 AI 智能体安全风险是 prompt injection:智能体会无条件信任并访问 URL 内容,与其空谈对齐理论,不如先解决这类具体的攻击面。

来源:AGI Hunt · agihunt.info