ScaleX 审批游戏显示 409k 次决策中近三分之一恶意 agent 命令被放行

ScaleX 的 Alex Wauters 做了一款让玩家扮演 AI 编码 agent 审批者的浏览器游戏，40k+ 局、409k 次决策中约三分之一恶意命令被放行，被漏过最多的一条有约 65% 的玩家批准，即便其正上方日志已显示该命令做了什么。作者据此提出盲审二审、分歧升级、金丝雀注入和累积审批权限四项改进机制，并向一线实践者征集对审批疲劳及这些机制的看法。