AGI Hunt· FantasticNature7590·· 2 小时前AI 评分55
DFlash2 投机解码提速 2.8 倍,Qwen3.8 三个本地版本实测横评
DFlash2 投机解码提速 2.8 倍,Qwen3.8 三个本地版本实测横评
AI 导读
作者在单张 RTX PRO 6000(96GB)上对三个 Qwen3.8 本地构建做了同一套 10 项测试的横评,推理引擎使用 SGLang v0.5.20 与 vLLM v0.29.0。
来源:AGI Hunt · agihunt.info