8GB显存笔记本用Strata跑125B量化模型

2026年10月26日，AGI Hunt 报道了一则本地推理实测：一名 Reddit 用户在配备 RTX 5060 Laptop 显卡（8GB 显存）、32GB 内存和 SSD 的笔记本上，借助 Strata 运行 Qwen 3.8 Flash Next 125B 的 Gyro S 量化版，实测预填充速度最高约 900 t/s，生成速度约 30 t/s。该事件此前以“8GB 显存本地运行 Qwen 125B 量化版实测”为题持续跟踪，关注点在于用有限显存承载超大规模量化模型。目前公开信息仅为这一名用户的单次实测数据，报道中未提及官方说明或第三方复现结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。