跳到正文
原文
AGI Hunt· AIGODSEND·· 3 小时前AI 评分54

Agent 审批门设计:可承担的错误取决于动作本身,而非模型

AI 导读

作者提出一套 agent 动作校验的决策框架,主张按动作能否撤销、多久会被人发现来设定审批门槛,而不是看模型置信度。文中给出量化判据,对每类动作估算 p(bad)、假接受成本 Cfa 与假拒绝成本 Cfr,仅当 p(bad)×Cfa < (1−p(bad))×Cfr 时放行,并指出 94% 特异度、69% 敏感度的模型只能做分诊工具,会漏掉约三成阳性。

来源:AGI Hunt · agihunt.info