「听话但别违法」就够了？研究员称简单指令实际有效率 99.99%

@shinboson 发帖反驳 alignment 圈对模型失控的恐慌，认为实践中「照用户说的做，但别违法，我是认真的」这条简单指令其实管用，成功率约 99.99%。失效的都是极边缘案例，就像一万人里总有一个能被说服去纵火烧沃尔玛。他主张直接给 AI 编码「别伤害人」「听用户的话」这类简单、可泛化的指令。