讨论：优化变廉价后AI目标选择愈发关键

AI 对齐领域的讨论持续聚焦于“目标选择”问题。2026年10月3日，AGI Hunt 报道称，Jennifer Li 就 AI 对齐发表看法，并引用 Rayan Krishnan 的观点：人类智能虽然卓越非凡，但出现得晚且充满偶然性，是由一个从未以“造出最聪明生物”为目标的优化器塑造出来的。Jennifer Li 据此指出，随着优化变得越来越廉价、越来越强大，AI 对齐中“选择什么目标”将变得越来越关键。截至该报道，讨论仍围绕优化能力的提升与目标设定之间的关系展开。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。