AGI Hunt· flynth92·· 5 小时前AI 评分55
6 张 3090 用魔改 vLLM 跑 Qwen3.8-Flash-Next,262k 上下文支持 7 用户并发
6 张 3090 跑 Qwen3.8-Flash-Next:262k 上下文带 7 用户,vLLM 补丁详解
AI 导读
Reddit 用户 flynth92 在 6×3090 消费级 PC 上以魔改 vLLM 分支跑通 Qwen3.8-Flash-Next,实现 262k 上下文并支持 7 用户并发。
来源:AGI Hunt · agihunt.info