AGI Hunt· evilsocket·· 3 小时前AI 评分64
开源推理引擎 Strata 在 16GB 显存单卡本地运行 125B 的 Qwen3.8-Flash-Next
开源 Strata:16GB 显存本地跑 125B 的 Qwen3.8-Flash-Next
AI 导读
evilsocket 演示用开源推理引擎 Strata 在单块 16GB NVIDIA 显卡上运行 125B 参数的 Qwen3.8-Flash-Next(IQ1M 量化)。
来源:AGI Hunt · agihunt.info