跳到正文
原文
AGI Hunt· rakyll·· 4 小时前AI 评分28

rakyll:模型进化太快,任何确定性防御都难守住

rakyll:模型进化太快,任何确定性防御都难守住

AI 导读

知名工程师 rakyll 提出,任何确定性系统(如固定规则、校验、过滤器)只要模型能足够快地「爬山式」优化搜索,就可能被模型生成或绕过。他表示这一判断数年前首次考虑,此后一直被反复验证为真。静态、确定性的 AI 安全防护手段在快速进化的模型面前难以长期有效。

来源:AGI Hunt · agihunt.info