AGI Hunt· Inside-Pen-8395·· 3 小时前AI 评分62
24GB MacBook Air 用 SSD 流式加载跑 Qwen3.8-Flash-Next 量化版,解码近 49 t/s
24GB MacBook Air 跑 Q2 量化大模型:SSD 流式专家达 49 t/s
AI 导读
作者在 24GB 内存的 MacBook Air M5 上用 Splash 1.4.0 加自研 fork(约 800 行改动,由环境变量开关控制)运行 Qwen3.8-Flash-Next 的 ISTA GSQ-RCO Q20 量化版,解码速度从原版 28.8 t/s 提升到 48.8 t/s。
来源:AGI Hunt · agihunt.info