跳到正文
热点事件持续更新

M³:以马尔可夫决策过程建模的多轮越狱红队框架

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026 年 10 月 26 日,arXiv cs.AI 刊出 M³ 研究,将多轮越狱建模为有限时域马尔可夫决策过程(MDP),由攻击者 LLM、目标 LLM 与状态 LLM 协同组成自动化多 LLM 红队框架。据该论文报道,在两个 benchmark、六个目标模型上,M³ 的攻击成功率(ASR)优于当前 SOTA 多轮红队方法,ASR@5 最高提升 53%;在使用轻量攻击者时,ASR@1 与 ASR@5 分别提升 26%、34%。论文还称,风险随对话轮次升级更快,且跨风险类别更一致,Gini index 最高改善 4.82。目前该工作以预印本形式发布,尚无同行评审或独立复现的报道。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. arXiv cs.AI
    M^3:将多轮越狱建模为马尔可夫决策过程的多 LLM 系统

    M^3 将多轮越狱建模为有限时域 MDP,用攻击者 LLM、目标 LLM 与状态 LLM 协同组成自动化红队框架。在两个 benchmark、六个目标模型上,ASR 优于 SOTA 多轮红队方法,ASR@5 最高提升 53%;轻量攻击者也可在 ASR@1、ASR@5 分别提升 26%、34%。风险随对话轮次更快升级,跨风险类别更一致(Gini index 最高改善 4.82)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。