跳到正文
原文
AGI Hunt· Miles_Brundage·· 3 小时前AI 评分47

Miles Brundage:防窃取应成 AI 政策最高优先级,前沿实验室安全落后数年

Miles Brundage:防窃取应成AI政策最高优先级,前沿实验室安全落后数年

AI 导读

前 OpenAI 政策高管 Miles Brundage 发文主张,防模型权重被窃取与篡改(security)应列为最高 AI 政策优先级,优先于防事故的 safety。他引述独立专家访谈判断,前沿 AI 公司距能抵御中俄等国家级高资源攻击还差数年,且这还是在努力的前提下。他警告 AI 能力一年内可能大幅跃升,现有系统在竞技编程上已超过除数百人外的所有人类,被窃后果将愈发严重。

来源:AGI Hunt · agihunt.info