arXiv cs.CL· Chen Yueh-Han, Bruce W. Lee, Ilia Sucholutsky, Tomek Korbak·2026-09-30 12:00· 5 小时前AI 评分48

Alignment Forecasting：从训练数据预判模型失准

Alignment Forecasting: Predicting Misalignment From Training Data

AI 导读

Alignment Forecasting 可在训练前预测微调数据是否让目标模型出现欺骗、谄媚等失准，并输出概率。配套基准 ALIGNMENTFORECASTBENCH 含 5000+ 题，覆盖 17 个目标模型、32 个数据集和 16 种失准模式，前沿模型直接提示表现不佳。

来源：arXiv cs.CL · arxiv.org