AGI Hunt· TheZachMueller·· 2 小时前AI 评分42
RTX 6000 工作站实测 GLM 5.3 Flash,调优后吞吐升至 242 tok/s
AI 导读
TheZach Mueller 在 4 张功耗锁定 450W 的 RTX 6000 Workstation 上运行 GLM 5.3 Flash 的 NVFP4 量化版本,逐阶段调优后吞吐从 162 tok/s 提升至 242 tok/s。对比图还显示 V2 版本吞吐较 V1 大幅提升,为 workstation 级部署提供参考。
来源:AGI Hunt · agihunt.info