arXiv cs.AI· Yuqing Huang, Jack Ji, Jithin Pradeep, Sagarika Suresh, Jekaterina Novikova·· 3 小时前AI 评分45
M^3：将多轮越狱建模为马尔可夫决策过程的多 LLM 系统
$M^3$: A Multi-LLM System for Multi-Turn Jailbreaking as a Markov Decision Process
AI 导读
M^3 将多轮越狱建模为有限时域 MDP，用攻击者 LLM、目标 LLM 与状态 LLM 协同组成自动化红队框架。在两个 benchmark、六个目标模型上，ASR 优于 SOTA 多轮红队方法，ASR@5 最高提升 53%；轻量攻击者也可在 ASR@1、ASR@5 分别提升 26%、34%。风险随对话轮次更快升级，跨风险类别更一致（Gini index 最高改善 4.82）。
来源：arXiv cs.AI · arxiv.org