热点事件持续更新
M³:以马尔可夫决策过程建模的多轮越狱红队框架
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026 年 10 月 26 日,arXiv cs.AI 刊出 M³ 研究,将多轮越狱建模为有限时域马尔可夫决策过程(MDP),由攻击者 LLM、目标 LLM 与状态 LLM 协同组成自动化多 LLM 红队框架。据该论文报道,在两个 benchmark、六个目标模型上,M³ 的攻击成功率(ASR)优于当前 SOTA 多轮红队方法,ASR@5 最高提升 53%;在使用轻量攻击者时,ASR@1 与 ASR@5 分别提升 26%、34%。论文还称,风险随对话轮次升级更快,且跨风险类别更一致,Gini index 最高改善 4.82。目前该工作以预印本形式发布,尚无同行评审或独立复现的报道。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 12:00
arXiv 刊出 M³ 框架,称 ASR@5 较 SOTA 多轮红队方法最高提升 53%。报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- arXiv cs.AIM^3:将多轮越狱建模为马尔可夫决策过程的多 LLM 系统
M^3 将多轮越狱建模为有限时域 MDP,用攻击者 LLM、目标 LLM 与状态 LLM 协同组成自动化红队框架。在两个 benchmark、六个目标模型上,ASR 优于 SOTA 多轮红队方法,ASR@5 最高提升 53%;轻量攻击者也可在 ASR@1、ASR@5 分别提升 26%、34%。风险随对话轮次更快升级,跨风险类别更一致(Gini index 最高改善 4.82)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。