跳到正文
原文
Mistral AI·· 2026-01-22AI 评分53

Mistral AI 定位 vLLM 内存泄漏,源头在 UCX 的 mmap hook

Heaps do lie: debugging a memory leak in vLLM.

AI 导读

Mistral AI 团队复盘了 vLLM 中的一次内存泄漏排查。在他们用 Mistral Medium 3.1 做 P/D 分离部署并启用图编译时,系统内存以每分钟 400 MB 线性增长,数小时后会进入 OOM 状态。

来源:Mistral AI · mistral.ai