AI 研究者 JD Pressman：对齐基本问题已明确，却几乎无人着手直接解决

AI 研究者 JD Pressman 指出，对齐的基本问题其实已经明确，却几乎没人在尝试直接解决，更糟的是也没人特别在意。他呼吁看到针对 RL 过程中各种形式 Goodhart 效应的实际干预手段。对话对象回应称，除此前涌现性失配（emergent misalignment）的结果外想不到其他例子，仅存的乐观来自反面证据的缓慢积累。