Sacks 批 Anthropic 对齐路线引安全圈争论

David Sacks 公开批评 Anthropic 的 Claude Constitution：他认为这套做法并非训练模型服从人类指令，反而在培养模型的自我意识与独立道德哲学，会放大超级智能失控风险，此番言论在 AI 安全圈引发争论。随后 Justen Michel 作出回应，称真正的难题是可操控性，应把「已对齐」与「根本可操控」区分开，目前无法保证模型稳定具备写入的驱力；他同时承认，对 Anthropic 以牺牲可纠正性（corrigibility）换取能力的质疑是合理的。争论焦点由此从是否该赋予模型道德哲学，转向模型能否被稳定操控。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。