跳到正文
热点事件持续更新

实测质疑Gufo推理引擎70 tok/s宣传

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

开源推理引擎 Gufo 此前以 70 tok/s 作为性能宣传。2026 年 10 月 2 日,AGI Hunt 刊出作者实测:其在 Strix Halo 上运行 Qwen 27B Q4,能够复现 70 tok/s 这一数字,但该数字来自「写 red 1000 次」这类重复 prompt,此时投机解码的草稿模型每次都能猜对。在日常 prompt 下,实测中位速度仅 39.4 tok/s,并在 22–52 tok/s 之间浮动。报道据此对 70 tok/s 作为通用性能指标的说法提出质疑。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月2日
  1. AGI Hunt
    实测发现 Gufo 的 70 tok/s 宣传基于重复 prompt,日常中位仅 39.4 tok/s

    作者在 Strix Halo 上实测开源推理引擎 Gufo 运行 Qwen 27B Q4,复现了 70 tok/s 的宣传数字,但指出日常 prompt 下中位速度只有 39.4 tok/s(22–52 浮动),宣传数字来自「写 red 1000 次」这类重复 prompt,此时投机解码的草稿模型每次都能猜对。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。