有害性评测三段式流程与 ClearHarm 泛化检验

2026年10月3日，AGI Hunt 报道了一套模型有害性评测的三段式实验设计。该流程分三步推进：先在 BeaverTails 数据集上训练探针，再在 JBB 上做 rollout，让模型学习避免有害输出，最后在 ClearHarm 上评测。报道指出，ClearHarm 相对前两个数据集属于分布外（OOD）数据集，这一环节被用来检验模型学到的安全行为能否泛化到未见分布。作者同时表示，后续会补充所有数据切分前后的可监控性（monitorability）指标。目前公开信息仅涉及流程设计本身，尚未给出具体评测结果或数值。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。