跳到正文
热点事件持续更新

StepSafe:上下文感知安全推理实现及时干预

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

2026 年 10 月 16 日,arXiv cs.AI 收录论文《StepSafe:用上下文感知安全推理学习及时干预》。该工作提出 StepSafe,通过 ASPO 训练框架实现 step 级安全推理与及时干预,方法结合前缀级阶段对齐与自适应反馈自蒸馏。其训练数据在每一步带有违规分类与干预窗口,并借助自演化多智能体红队进行扩展。论文称,StepSafe 在五个 agent-safety 基准上取得开源护栏的 SOTA,Youden's J 为 53.0(4B),对比值为 46.2。目前为该方法首次见于报道,尚无后续进展或独立复现信息。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. arXiv cs.AI
    StepSafe:用上下文感知安全推理学习及时干预

    StepSafe 通过 ASPO 训练框架实现 step 级安全推理的及时干预,并在五个 agent-safety benchmark 上取得开源护栏 SOTA。其 Youden's J 为 53.0(4B),对比 46.2,方法结合前缀级阶段对齐与自适应反馈自蒸馏。训练数据每步带有违规分类和干预窗口,并通过自演化多智能体红队扩展。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。