跳到正文
原文
AGI Hunt· flynth92·· 5 小时前AI 评分55

6 张 3090 用魔改 vLLM 跑 Qwen3.8-Flash-Next,262k 上下文支持 7 用户并发

6 张 3090 跑 Qwen3.8-Flash-Next:262k 上下文带 7 用户,vLLM 补丁详解

AI 导读

Reddit 用户 flynth92 在 6×3090 消费级 PC 上以魔改 vLLM 分支跑通 Qwen3.8-Flash-Next,实现 262k 上下文并支持 7 用户并发。

来源:AGI Hunt · agihunt.info