跳到正文
热点事件持续更新

HANDBOOK.md 基准发布:65 任务测长文档遵守

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月12日,AGI Hunt 报道 HANDBOOK.md 基准发布:该基准用 65 个任务考察智能体遵守 20–124 页长政策文档的能力,任务覆盖金融、医疗计费、保险、物流、HR 五个领域、10 家虚构公司,评分依赖 824 条程序化判据。结果显示,30 个配置中最佳严格评分通过率仅 36.2%;若允许一次失败,最高分几乎翻倍。其中 Opus 4.8 (max) 以严格 pass@1 约 23%、pass@(N-1) 近 50% 居首。报道未披露其余模型或配置的具体得分,也未提及此前是否已有相关报道。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. AGI Hunt
    HANDBOOK.md 基准:65 个任务测 agent 遵守长政策文档,最佳仅 36.2%

    HANDBOOK.md 基准用 65 个 agent 任务测试智能体遵守 20–124 页长政策文档的能力,30 个配置中最佳严格评分通过率仅 36.2%。任务覆盖金融、医疗计费、保险、物流、HR 五个领域、10 家虚构公司,评分依赖 824 条程序化判据。允许一次失败后最高分几乎翻倍,Opus 4.8 (max) 以严格 pass@1 约 23%、pass@(N-1) 近 50% 居首。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。