vLLM-Metal 合并睡眠模式功能

vLLM-Metal 是面向 Apple Mac 的推理后端。2026 年 10 月 15 日报道，由开发者 abhijithneil 主导的一项 PR 已合并进 vLLM-Metal，为其加入 level 1 睡眠模式支持。该功能的效果是在 Mac 空闲时把 KV cache 占用的内存归还给系统，从而降低推理服务静置时的内存占用。报道未披露该 PR 的具体合并时间、对应版本号或内存回收幅度的数据，也未说明后续是否还有更高层级的睡眠模式计划。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。