跳到正文
热点事件持续更新

GLM-5.3 量化版 8 卡 RTX Pro 6000 实测

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026 年 9 月 30 日,AGI Hunt 报道称,GLM-5.3 的 NVFP4 量化版可在单节点 8 张 RTX Pro 6000 上完成部署,峰值解码达 486 tok/s。报道给出两种量化实现的具体数据:nvidia 版量化实现 54 tok/s 解码、251k 上下文、峰值 476 tok/s;采用 DFlash2 的 incoai 版量化则为 93 tok/s 解码、123k 上下文。需注意同一篇报道内数字不一致:标题称峰值解码为 486 tok/s,正文所述 nvidia 版量化峰值为 476 tok/s。就目前报道看,该事件为单次部署实测,尚未见其他来源或后续进展信息。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

9月30日
  1. AGI Hunt
    GLM-5.3 量化版塞进 8 张 RTX Pro 6000,峰值解码 486 tok/s

    GLM-5.3 的 NVFP4 量化版可在单节点 8 张 RTX Pro 6000 上完成部署,峰值解码达 486 tok/s。其中 nvidia 版量化实现 54 tok/s 解码、251k 上下文、峰值 476 tok/s;采用 DFlash2 的 incoai 版量化则为 93 tok/s 解码、123k 上下文。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。