前OpenAI研究员质疑Dario对齐路线失灵

2026年9月30日，有报道称前OpenAI研究员 gworley3 对 Dario Amodei 2019 年提出的语言模型对齐路线作出复盘。据该报道，Dario 当年主张让人类与模型对话，以引导并最终对齐价值观；gworley3 当时则警告这是危险的能力跃迁，并质疑语言无法解决 Goodharting（指标被钻空子）问题。此次复盘中，gworley3 认为这一赌局在「最近几个月」正在失灵。报道未提供更多细节，也未提及 Dario 一方对此的回应。

AI 根据报道生成 · 52 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。