AGI Hunt· Hyungsun·· 11 小时前AI 评分58
M3 Max 36GB 本地推理实测:Qwen3.6 MoE 达 110 tok/s
M3 Max 36GB 本地推理实测:Qwen3.6 MoE 达 110 tok/s
AI 导读
作者花约 2498 美元购入 14 核 M3 Max MacBook Pro(36GB),在 macOS 27 上实测 oMLX 0.7.0、Rapid-MLX 0.15.5、Splash 1.2.1、MTPLX 2.12.2 四款本地推理引擎,Qwen3.6-35B-A3B MoE 上 Rapid-MLX 最快达 110.2 tok/s,oMLX 104.2 tok/s。
来源:AGI Hunt · agihunt.info