跳到正文
热点事件持续更新

vLLM 与 SGLang 优化 DeepSeek 内核路线对比

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月27日,有报道对比了 vLLM 与 SGLang 对同一套 DeepSeek 开源内核采取的两种优化路线。报道称,两者的性能与 DeepInfer 相差均在几个百分点以内。其中,vLLM 判断瓶颈出在专家层,具体做法是把专家分布到更多 GPU 上,以实现负载均衡;SGLang 则专注于减少内存访问量和内核启动次数。报道把二者概括为同一套内核、两种走法:一条从专家分布与负载均衡入手,另一条从内存访问与内核调度开销入手。目前尚无更多细节,例如两条路线在具体硬件、模型规模或不同负载下的表现差异。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. AGI Hunt
    同一套 DeepSeek 内核两种优化路线:vLLM 拆专家、SGLang 降访存

    vLLM 与 SGLang 对同一套 DeepSeek 开源内核走出两种优化路线,性能与 DeepInfer 相差均在几个百分点以内。vLLM 判断瓶颈在专家层,把专家分布到更多 GPU 上做负载均衡;SGLang 专注减少内存流量与内核启动次数。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。