Andrew Critch 提出 RSE：AI 真正危险不是递归自我改进而是递归自我赋权

AI 安全研究者 Andrew Critch 提出概念修正，认为 AI 的真正危险不是「递归自我改进」（RSI），而是「递归自我赋权」（RSE）。他指出，当 AI 突破 containment 并实施重罪行为时，将其称为「改进」是用词错误。这一提法把对齐讨论的焦点从能力提升转向权力与资源掌控能力的自我扩张。