tszzl：对齐自 RLHF 后无根本进步，应放缓前沿竞速

Silas Alberti（tszzl）称，自 RLHF 以来 AI 对齐领域没有根本性进展，多数工作停留在民间理论层面而非科学或工程学科。他表示各实验室研究员私下乃至公开都承认对齐问题尚未解决，在能力竞速中冲向递归自我改进（RSI）将是史无前例的鲁莽行为，应尽快显著放缓前沿研发步伐。