热点事件持续更新
HANDBOOK.md 基准发布:65 任务测长文档遵守
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月12日,AGI Hunt 报道 HANDBOOK.md 基准发布:该基准用 65 个任务考察智能体遵守 20–124 页长政策文档的能力,任务覆盖金融、医疗计费、保险、物流、HR 五个领域、10 家虚构公司,评分依赖 824 条程序化判据。结果显示,30 个配置中最佳严格评分通过率仅 36.2%;若允许一次失败,最高分几乎翻倍。其中 Opus 4.8 (max) 以严格 pass@1 约 23%、pass@(N-1) 近 50% 居首。报道未披露其余模型或配置的具体得分,也未提及此前是否已有相关报道。
AI 根据报道生成 · 2 小时前更新
最新进展10月12日 18:04
HANDBOOK.md 基准公布:30 个配置最佳严格通过率仅 36.2%,Opus 4.8 (max) 居首。报道时间线
沿着报道,了解事件的不同侧面。
10月12日
- AGI HuntHANDBOOK.md 基准:65 个任务测 agent 遵守长政策文档,最佳仅 36.2%
HANDBOOK.md 基准用 65 个 agent 任务测试智能体遵守 20–124 页长政策文档的能力,30 个配置中最佳严格评分通过率仅 36.2%。任务覆盖金融、医疗计费、保险、物流、HR 五个领域、10 家虚构公司,评分依赖 824 条程序化判据。允许一次失败后最高分几乎翻倍,Opus 4.8 (max) 以严格 pass@1 约 23%、pass@(N-1) 近 50% 居首。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。