安全研究者 1a3orn：大规模训练下模型监控近乎不可行

2026年10月6日，安全研究者 1a3orn 提出观点：近几个月的事件表明，在任何有生产力的训练规模上，我们都相当不擅长监控模型在做什么。他认为，规模与经济因素决定了无法完全监控模型，就像无法完全监控人类一样。他还指出，若关注「权重中的目标」或长期计划这类隐患，仅靠监控可能不够，因为难以捕捉跨实例的行为。目前该观点以研究者个人论述形式提出，尚无更多后续进展。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。