跳到正文
原文
AGI Hunt· rohanpaul_ai·· 4 小时前AI 评分47

CMU 论文:AI 智能体违规日志几乎无法举证,结构化记录可提升至 83%

CMU 论文:Agent 违规日志几乎无法举证,结构化记录可提升至 83%

AI 导读

卡内基梅隆大学论文《Holding Agents Accountable with Verifiable Agent Insurance》发现,现有日志几乎无法举证 AI 智能体违规。例如 OpenClaw 日志中 4 项违规 0 项可被证明,改用结构化记录后违规可证明比例可提升至 83%。该研究聚焦智能体出错后的追责与可审计性,而非仅事前防范。

来源:AGI Hunt · agihunt.info