跳到正文
原文
AGI Hunt· FantasticNature7590·· 2 小时前AI 评分55

DFlash2 投机解码提速 2.8 倍,Qwen3.8 三个本地版本实测横评

DFlash2 投机解码提速 2.8 倍,Qwen3.8 三个本地版本实测横评

AI 导读

作者在单张 RTX PRO 6000(96GB)上对三个 Qwen3.8 本地构建做了同一套 10 项测试的横评,推理引擎使用 SGLang v0.5.20 与 vLLM v0.29.0。

来源:AGI Hunt · agihunt.info