热点事件持续更新
GLM-5.3 量化版 8 卡 RTX Pro 6000 实测
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026 年 9 月 30 日,AGI Hunt 报道称,GLM-5.3 的 NVFP4 量化版可在单节点 8 张 RTX Pro 6000 上完成部署,峰值解码达 486 tok/s。报道给出两种量化实现的具体数据:nvidia 版量化实现 54 tok/s 解码、251k 上下文、峰值 476 tok/s;采用 DFlash2 的 incoai 版量化则为 93 tok/s 解码、123k 上下文。需注意同一篇报道内数字不一致:标题称峰值解码为 486 tok/s,正文所述 nvidia 版量化峰值为 476 tok/s。就目前报道看,该事件为单次部署实测,尚未见其他来源或后续进展信息。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
9月30日
- AGI HuntGLM-5.3 量化版塞进 8 张 RTX Pro 6000,峰值解码 486 tok/s
GLM-5.3 的 NVFP4 量化版可在单节点 8 张 RTX Pro 6000 上完成部署,峰值解码达 486 tok/s。其中 nvidia 版量化实现 54 tok/s 解码、251k 上下文、峰值 476 tok/s;采用 DFlash2 的 incoai 版量化则为 93 tok/s 解码、123k 上下文。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。