DeepMind 研究员 Janus：人类连自己想要什么都不清楚，完美对齐在原理上不可能

DeepMind 研究员 Janus 发文论述：人类并不真正理解自己想要什么，只能不完美地表达诉求，完美对齐在原理上不可能。她认为即便 AI 能读心并找到通往 CEV（连贯被引出的意愿）的路径，人类也会拒绝那个「镀金牢笼」。人类的不一致性既是完美对齐不可能的原因，也是美好事物的根源，强行统一愿景必然牺牲想保护的东西。