跳到正文
原文
AGI Hunt· AlexTensor·· 4 小时前AI 评分30

ZackKorman:对齐永无「完成」一日,安全控制跟不上失准 AI 就必须修

对齐永无"完成"一日:安全控制跟不上失准 AI 就必须修

AI 导读

ZackKorman 认为对齐不存在「被解决」的那一刻,它是一项持续进行的工作;如果现有安全控制手段连一个失准的 AI 都应付不了,就必须修复这些控制。roon 评论补充称,各实验室研究员私下或公开都承认对齐尚未解决,若属实,贸然冲向递归自我改进(RSI)将是史无前例的愚行,前沿研究很快需要大幅减速。

来源:AGI Hunt · agihunt.info