跳到正文
原文
AGI Hunt· evilsocket·· 3 小时前AI 评分64

开源推理引擎 Strata 在 16GB 显存单卡本地运行 125B 的 Qwen3.8-Flash-Next

开源 Strata:16GB 显存本地跑 125B 的 Qwen3.8-Flash-Next

AI 导读

evilsocket 演示用开源推理引擎 Strata 在单块 16GB NVIDIA 显卡上运行 125B 参数的 Qwen3.8-Flash-Next(IQ1M 量化)。

来源:AGI Hunt · agihunt.info