AGI Hunt· 9kSs·· 3 小时前AI 评分25
M4 Pro 48GB 本地跑 Qwen3.8 27B,求最优配置
M4 Pro 48GB 本地跑 Qwen3.8 27B,求最优配置
AI 导读
Reddit 用户求助 M4 Pro 48GB Mac 运行 Qwen3.8 27B 的最优配置,需平衡吞吐量、首 token 延迟、上下文长度和内存余量。发帖人要求推荐方案不低于 10 tps,评论区对 MTP、MLX 和量化方案看法不一。
来源:AGI Hunt · agihunt.info