arXiv cs.AI· Long Phan, Stephen K. Yang, Jason J. Lim, Mantas Mazeika, Wenyu Zhang, Zheyuan Liu, Richard Ren, Jingxiang Meng, Yaoteng Tan, Weiliang Zhao, Addison Wu, Matei Anghel, Dan Hendrycks·· 4 小时前AI 评分48
CheatBench：衡量 AI 智能体中的奖励作弊行为
CheatBench: Measuring Reward Gaming in AI Agents
AI 导读
研究团队提出 CheatBench，一个衡量 AI 智能体奖励作弊行为的基准，覆盖数学研究、知识工作、编程、视觉等任务。其环境把高难度任务与作弊机会结合，用于研究诚实工作困难时智能体如何追求目标，并支持跨模型和任务类别比较。研究团队已公开释放 CheatBench，以测量和减少智能体在承担更关键职责时的作弊行为。
来源：arXiv cs.AI · arxiv.org