arXiv cs.AI· Yu Cheng, Yongkang Hu, Shuaijie Ma, Zhihang Lin, Weicheng Meng, Jingyang Qiao, Jiuan Zhou, Yushuo Zhang, Yihang Chen, Weilin Luo, Kun Shao, Dong Li, Zhizhong Zhang, Yuan Xie, Zhaoxia Yin·· 4 小时前AI 评分39
SafeCoEvo：面向 LLM 智能体的测试时安全 Harness 与 Guard 协同演化框架
SafeCoEvo: Co-Evolving Safety Harnesses and Guards for LLM Agents at Test-Time
AI 导读
SafeCoEvo 是一个面向 LLM 智能体的测试时 Harness-Guard 协同演化框架，让外部安全系统持续从累积的运行时经验中自适应。其中 S-Harness 将近期运行时经验外化为可更新的显式安全知识以快速影响后续任务，GuardVPO 则在更长时间尺度上把安全经验内化为参数化风险判断能力。相比最强 baseline，其不安全结果率降低 10.05%，任务成功率提升 12.15%。
来源：arXiv cs.AI · arxiv.org