AGI Hunt· BleynSpecnaz·· 2 小时前精选AI 评分65
8GB 显存笔记本用 Strata 跑 125B 量化模型，预填充实测约 900 t/s
8GB 显存跑 125B 模型：Strata 分布式推理实测 900 t/s 预填充
AI 导读
Reddit 用户在 RTX 5060 Laptop（8GB 显存）、32GB RAM 和 SSD 上通过 Strata 运行 Qwen 3.8 Flash Next 125B 的 Gyro S 量化版，实测预填充最高约 900 t/s、生成约 30 t/s。
推荐理由
文中列出 8GB 显存运行 125B 模型的整套配置参数与多项取舍经验，可供本地部署对照。
来源：AGI Hunt · agihunt.info