vLLM 考虑将更多推理栈迁往 Rust，推理引擎 Rust 化成趋势

vLLM 核心开发者 Woosuk 透露，vLLM 正在隔离模型特定代码，并考虑把更多推理栈迁往 Rust。vLLM 已加入 Rust 前端，SGLang 的 prefix cache 核心也已是 Rust。两者均使用 DeepSeek 开源内核，性能与 DeepInfer 相差几个百分点、优化路径不同；vLLM 与 SGLang 谁先做出 Rust 调度器仍悬而未决。