arXiv cs.AI· Yujie Feng, Xiaobin Wang, Jinluan Yang, Xiaonan Shi, Pengjun Xie, Philip S. Yu, Xiaoming Wu, Jieping Ye·· 9 小时前AI 评分43
共同进化,分离失效:自改进智能体中的技能-策略协同进化陷阱
Evolving Together, Failing Apart: The Skill-Policy Co-evolution Trap in Self-Improving Agents
AI 导读
自改进智能体的技能-策略协同进化存在隐藏脆弱性:策略能力与协同进化的技能库绑定,技能漂移后即失效,敏感性随训练推进而增强。为此提出面向部署的评估协议 CODA,模拟技能漂移并新增一致性率与损坏技能抵抗率。在 4 种方法和 5 个基准(6 种设置)中,最差情况成功率比峰值低 5-13 分,抹去交付技能库相对无技能基线增益的 52-93%。
来源:arXiv cs.AI · arxiv.org