普林斯顿教授 Elad Hazan:AI 安全长期被轻视,三大科学问题待解

普林斯顿教授 Elad Hazan 提出 AI 安全领域的三个核心科学问题:如何评估超越人类能力水平的智能、激励机制与纠错机制如何支撑有效对齐、如何维持可靠且可扩展的监督(oversight)。他指出这些是严肃的科学研究问题,但 AI safety 作为一门正当的研究领域长期遭受轻视与质疑。