跳到正文
原文
arXiv cs.AI· Chuming Wei, Churui Yang, Zihan Zhang, Ruien Li, Wusheng Zhang, Yan Zhang, Guangwen Yang·· 2 小时前AI 评分37

ADTGuard:面向大语言模型流式推理的自适应深度-时间安全防护

ADTGuard: Adaptive Depth-Time Safeguard for Streaming Inference in Large Language Models

AI 导读

ADTGuard 提出面向大语言模型流式推理的安全防护,在每个 token 释放前完成检测。其 Depth-Time Safety Dynamics(DTSD)跨层整合安全证据并沿 token 累积风险。

来源:arXiv cs.AI · arxiv.org