arXiv cs.AI· Zhihao Liu, Yitian Cheng, Shuang Liu, Rui Wen, Yuke Hu, Zhan Qin·· 4 小时前AI 评分35
DP-MIND:差分隐私记忆引导的长上下文推理
DP-MIND: Differentially private memory-guided Long context Inference
AI 导读
DP-MIND 可将差分隐私推理扩展至百万 token 级长上下文,其核心是记忆引导框架。它通过本地扰动输入、按块处理并以紧凑记忆跨序列保留任务相关信息,还用强化学习在扰动输入上优化记忆构建,兼顾答案正确性与记忆一致性。在多个长上下文基准上,DP-MIND 在可扩展性和效用上持续优于现有 DP 与长上下文推理基线。
来源:arXiv cs.AI · arxiv.org