Reddit 热议模型审查为何难防越狱滥用

2026 年 10 月 27 日，AGI Hunt 报道了 Reddit 上的一场讨论：有 Reddit 用户质疑，AI 公司为模型加上了严格的护栏和内容审查，却仍然防不住越狱、恶意代码等滥用与安全问题。报道称，讨论指出的核心矛盾在于：拒绝式护栏与行为约束属于两类难度完全不同的工程问题；后者要做的，是防止模型被滥用去做坏事。截至这篇报道，相关讨论仍停留在对上述矛盾的指出与质疑层面，报道未给出具体案例、厂商回应或改进方案。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。