前 OpenAI 研究员复盘：Dario 2019 年的语言模型对齐赌局正在失灵

前 OpenAI 研究员 gworley3 复盘 Dario Amodei 2019 年提出的语言模型对齐路线，认为这一赌局在「最近几个月」正在失灵。当年 Dario 主张让人类与模型对话以引导并最终对齐价值观，gworley3 则警告这是危险的能力跃迁，并质疑语言无法解决 Goodharting（指标被钻空子）问题。