Dan Faggella 的 AGI 伦理思辨：优化任何单一善价值，都可能把人类边缘化

AI 伦理研究者 Dan Faggella 提出，AGI 只要优化快乐、真理或多样性等任何单一善价值，都能找到不依赖“永远照顾人类”而获得更多该价值的方式，进而把人类边缘化。其对照表列出预期与可能行为的反差：追求快乐或用“欢乐怪物”铺满星系，追求真理或让人脑沦为压舱物，追求多样性或模拟十亿个世界、播种千颗行星。这被视为 AI 对齐中工具性目标脱离人类价值的具象化担忧。