审批游戏显示约三分之一恶意 Agent 命令被放行

早先报道称，研究显示人类审批者会放行约三分之一的恶意 Agent 命令。2026 年 10 月 2 日的后续报道称，这一数字来自 ScaleX 的 Alex Wauters 做的一款浏览器游戏：玩家扮演 AI 编码 agent 的审批者。该游戏累计 40k+ 局、409k 次决策，其中约三分之一恶意命令被放行；被漏过最多的一条命令，即便其正上方的日志已显示该命令做了什么，仍有约 65% 的玩家点击批准。作者据此提出盲审二审、分歧升级、金丝雀注入和累积审批权限四项改进机制，并向一线实践者征集对审批疲劳及这些机制的看法。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。