混合GPU+CPU+NVMe本地跑DeepSeek吞吐提升21倍

2026年10月12日，AGI Hunt 报道称，作者在 GPU+CPU+NVMe 混合架构上本地部署 MXFP4 量化的 DeepSeek v4.1，经持续调优后吞吐最高提升 21 倍。具体数据：单路解码从 14 tok/s 升至 60.75 tok/s，4 路并发合计从 50 tok/s 升至 123.99 tok/s；32K 上下文 prefill 从 210 tok/s 升至 4,495 tok/s，TTFT 由 152 秒降至 7.12 秒。目前该报道即为已知最新进展，未提及后续更新或其他来源的补充数据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。