M5 Ultra 本地跑 GLM 5.3 Flash 达 68.8 tok/s

2026 年 10 月 5 日，有网友分享了在 Mac Studio M5 Ultra（256GB 内存）上本地运行 GLM 5.3 Flash 的实测成绩。据其介绍，运行采用 oQ4e 量化并启用 MTP，在 oMLX 0.7.0 环境下达到 68.8 tok/s 的解码速度，prefill 速度为 1878 tok/s。作者表示，之所以分享这份成绩，是因为看到其他人的跑分低于预期，希望提供一个参考，并称当前配置仍有优化空间。目前该事件仅有这一份个人实测数据，报道中未提及其他硬件配置或软件版本的对比结果，也没有第三方对该成绩的复现或验证信息。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。