跳到正文
热点事件持续更新

开源 Assay:统计检验解决 eval 波动

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026 年 10 月 13 日,据 AGI Hunt 报道,开发者 Professional-Run3614 开源了工具 Assay,用于解决模型评测中的 eval 波动问题。该工具借助统计检验,判断模型对比中出现的分数变化究竟属于真实回归还是采样噪声。具体做法是让每个测试用例在两版模型上多次运行,并做多重比较校正。作者举例说明:分数从 8/8 降到 7/8 大概率是采样噪声,而从 8/8 降到 0/8 则基本可以判定为真实回归。目前 Assay 已开源。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月13日
  1. AGI Hunt精选
    换模型后变差还是采样噪声?作者用统计检验与开源工具 Assay 解决 eval 挥发

    开发者 Professional-Run3614 开源了 Assay,用统计检验判断模型对比中的 eval 波动是真实回归还是采样噪声。做法是让每个用例在两版模型上多次运行并做多重比较校正,8/8→7/8 大概率是噪声,8/8→0/8 基本可判定回归。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。