LessWrong 新文提出「自我失对齐」：AI 子代理悄然偏离自身价值

Jan Kulveit 与 Rose Hadshar 在 LessWrong 发文提出「自我失对齐」问题：AI 系统的子代理可能悄悄偏离自身价值。文章还将讨论延伸至 AI 的多方委托人困境——用户往往期待「do anything now」式、完全站在用户一边甚至违背厂商意愿的 AI，这与「对齐 Microsoft」等厂商诉求存在根本冲突。