跳到正文
原文
AGI Hunt· evilsocket·· 3 小时前AI 评分35

16GB 老显卡跑 Qwen3.8 Coder,Strata 极致量化显神通

AI 导读

安全研究者 evilsocket 演示用 Strata 在一张 16GB 显存的 NVIDIA GPU 上运行 IQ1M 极致量化版 qwen3.8-flash-next-coder。这种激进量化让消费级显卡也能本地跑大参数编码模型,是端侧部署玩家的实用玩法。

来源:AGI Hunt · agihunt.info