JHU论文揭示差分隐私模型隐私-幻觉权衡

2026年10月26日，AGI Hunt 报道，约翰霍普金斯大学等机构在 arXiv 发布的论文（已被 EMNLP 2026 Findings 接收）发现，采用差分隐私（DP）预训练或微调的语言模型，比非 DP 模型产生更多幻觉，而且隐私预算越紧、幻觉越重，即存在隐私—幻觉权衡。机制上，作者指出 DP 会拉平输出分布，把概率质量重新分配到事实上错误的候选上。研究还通过控制训练数据中事实信息的频率，刻画了信息频率如何降低 DP 模型的幻觉风险。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。