Neel Nanda 激辩中国开源模型对齐护栏风险

2026 年 10 月 5 日，AGI Hunt 报道，对齐研究员 Neel Nanda 与网友 robleclerc 就中国开源权重模型绕过对齐护栏的风险展开激辩。Nanda 担忧西方让 AGI 落入中国之手，并认为实验室正在制造「超人类黑客」能力，却不懂如何控制。robleclerc 回应称，安全护栏存在时尚能控制模型，撤掉护栏就会失控；中国开源权重模型不会提供同样的保护。报道显示双方分歧集中在开源权重与对齐护栏是否兼容，目前未见争论收敛或任何一方改变立场的消息。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。