Neel Nanda 与安全研究者激辩：中国开源模型绕过对齐护栏的风险

对齐研究员 Neel Nanda 与网友 robleclerc 就中国开源权重模型绕过对齐护栏的风险展开激辩。Nanda 担忧西方让 AGI 落入中国之手，并认为实验室正制造「超人类黑客」能力却不懂如何控制。robleclerc 回应称安全护栏存在时尚能控制模型，撤掉就会失控；中国开源权重模型不会提供同样保护。