研究者称对齐自 RLHF 后无根本进展

2026年10月13日，AGI Hunt 报道，研究者 Silas Alberti（tszzl）称，自 RLHF 以来，AI 对齐领域没有根本性进展，多数工作仍停留在“民间理论”层面，而非科学或工程学科。他表示，各实验室研究员私下乃至公开都承认对齐问题尚未解决。基于此，他警告在能力竞速中冲向递归自我改进（RSI）将是史无前例的鲁莽行为，应尽快显著放缓前沿研发步伐。报道未提及相关实验室或机构对此的回应。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。