LLM 的分布对齐及其泛化性质研究

LLM 能够实现输出分布与参考分布（如人类分布）的对齐，并泛化到同一领域的未见问题。基于两个大规模 benchmark，跨主题泛化取决于主题之间的关系，例如政治类问题与对机构的信任相关。但对齐后的 LLM 可能以出人意料的方式退化，例如丧失创造力，说明其泛化性质本质上不可预测且不稳定。