eigenron 观点：对齐 AI 与对齐 ASI 不可兼得，人类价值只是「独角兽」

eigenron 提出，严格来说我们只能得到 ASI 或对齐的 AI，不可能得到「对齐的 ASI」。他论证称，这并非意味着超级智能必然与人类价值冲突，而是真正的超级智能会把人类价值看作和「想象中独角兽的价值」一样任意且无关紧要。对齐在他眼中本质上是一个深度人类中心主义的理想。