arXiv cs.AI· Kangkang Li, Kelvin Luu, Lily Ma, Tu Trinh, Ying Liu, Mohamed Elfeki·· 3 小时前AI 评分43
BARC-Bench：良性请求，风险后果
BARC-Bench: Benign Asks, Risky Consequences
AI 导读
研究者提出智能体安全基准 BARC-Bench，包含 110 个任务、覆盖 9 个模拟工作区，用于评估良性请求为不安全操作留下空间时的风险。评测四项前沿模型配置、每任务尝试五次，五次均安全完成的任务占比为 9.1% 至 72.7%。最强配置也在 27.3% 的任务上出现安全违规，凸显模型能完成复杂流程却难以持续遵守未明示边界的风险。
来源：arXiv cs.AI · arxiv.org