对齐研究者为何要慢下来：前 OpenAI 人士谈「对齐寒冬」

一位 AI 安全研究者认为当前可能正处在「对齐寒冬」，部分原因是大量新进入者心态急躁，导致研究选题质量下降。他回忆 4 年前急于「一年内解决对齐问题」时，被时任 OpenAI 导师 Alex Gray 劝阻，Gray 在 2022 年夏因 GPT-4 相关判断后不久离开 OpenAI。引用帖建议早期实证安全研究者放慢速度、深入思考。