跳到正文
热点事件持续更新

开发者提醒:别把 eval 当单元测试

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

2026年10月5日,AGI Hunt 报道,开发者 chiziaruhoma 就 AI 评测(eval)的用法提出提醒:不应把 eval 当成非过即败的单元测试。他指出,eval 每次运行得到的分数都会波动,因此孤立地给出一个「85%」并没有意义,关键在于说明这个分数是多少次运行、在哪些 prompt、哪种模型设置下得出的。该观点面向做 agent 与模型评测的工程师,强调评测具有统计性质,套用传统软件测试的非过即败思维并不合适。截至该报道,此事仍为一次观点分享,报道中未提及后续动作或其他开发者的回应,也没有出现与早先报道不一致的数字或说法。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. AGI Hunt
    开发者 chiziaruhoma:别把 eval 当单元测试,分数每次跑都会变,单独的 85% 无意义

    开发者 chiziaruhoma 指出,不应把 AI 评测(eval)当成非过即败的单元测试,eval 每次跑出的分数都会波动,所以单独一个「85%」没有意义。关键要说明是多少次运行、哪些 prompt、哪种模型设置下得出的。这一观点提醒做 agent/模型评测的工程师关注评测的统计性质,而非套用传统测试思维。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。