AGI Hunt· CrashTestingAI·· 5 小时前AI 评分47
AI 审计 AI 成新生意,CTAI 主张判断由人做
AI 审计 AI 成新生意,谁来审查审查者?
AI 导读
用其他 AI 模型审计 AI Agent 是新兴产品类别,可接入 Agent、选择检查项并输出失当行为报告。审查模型与被审查模型共享训练带来的盲区,一个自信、合理但错误的输出可能顺利通过审计。作者项目 CTAI 的原则是 AI 只做执行与捕获,判断由人做,每份报告注明使用了哪些“设备”。
来源:AGI Hunt · agihunt.info