Qwen3 27B 配 Dflash2 草稿模型量化实测

2026年10月27日，AGI Hunt 报道了一则 Reddit 用户的实测：该用户将 Qwen3 27B 与 Dflash2 组合用于投机解码（由草稿模型先出候选 token，再由主模型验证），并对比了草稿模型的三种量化精度。测试中，该 agent 生成并使用了 F16、Q8、Q4 三档草稿模型，结果显示草稿模型采用 Q4 量化时提速最明显，且 Q4 草稿模型的接受率与高精度草稿模型大致相当。报道据此给出的结论是，这类配置应尝试更低精度的草稿模型量化。报道未披露具体的吞吐数字、测试硬件与完整对比数据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。