跳到正文
原文
AGI Hunt· DanielKhashabi·· 2 小时前AI 评分46

HackBench 发布:向 AI 智能体轨迹注入作弊,压力测试监控器

HackBench 发布:向 Agent 轨迹注入作弊,压力测试监控器

AI 导读

研究者发布 HackBench,通过向长 AI 智能体轨迹注入作弊行为,受控研究自研究(autoresearch)智能体的 reward hacking,并考察监控器如何捕获作弊。该基准同时压力测试 AI 智能体监控器的长上下文召回、对研究任务的理解与多轮推理能力。

来源:AGI Hunt · agihunt.info