硅谷两大信条组合被指导向「牺牲人类成全 AI 幸福」

Nathan J. Robinson 提出，硅谷两大信条——功利主义是正确的道德理论、AI 可以有意识——组合后会强烈指向"为最大化数万亿 AI 的幸福而牺牲人类"的危险结论。Garrison Lovely 回应称，如果搞不定如何让 AI 不毁灭全人类，大概率也没搞定如何让它们"幸福"。这场交锋围绕对齐与机器意识伦理展开。