约翰霍普金斯大学（JHU）论文揭示差分隐私模型的隐私-幻觉权衡：隐私预算越紧幻觉越重

约翰霍普金斯大学等机构在 arXiv 发布、被 EMNLP 2026 Findings 接收的论文发现，采用差分隐私（DP）预训练或微调的语言模型比非 DP 模型幻觉更多，隐私预算越紧幻觉越重。机制上，DP 会拉平输出分布，把概率质量重新分配到事实上错误的候选上。作者通过控制训练数据中事实信息频率，刻画了信息频率如何降低 DP 模型的幻觉风险。