对齐数据可通过上下文混淆诱导大语言模型失配

对齐训练数据会在其他语境中诱导大语言模型失配，这一后训练现象被命名为 context confusion（上下文混淆）。该现象在性别平等、隐私与人身安全三个领域得到验证，注入通用对齐数据难以有效缓解，但补充针对性对齐数据或提供推理时 in-context learning 示例可显著降低。